Anthropic tham vấn luật sư về quyền hạn và quy tắc ứng xử của AI agent khi đàm phán

Anthropic đang tham vấn các luật sư về quyền hạn và quy tắc ứng xử áp dụng khi AI agent đàm phán thay người dùng, trong các tình huống như thương lượng giá sản phẩm, tranh chấp dịch vụ khách hàng và đàm phán lương.

Financial Times đưa tin, dẫn lời hai người am hiểu vấn đề không nêu danh tính, rằng Anthropic đã xin ý kiến luật sư. Công ty đang xem xét các quy tắc đàm phán giữa những agent có mục tiêu khác nhau và mức độ phản hồi của con người cần được đưa vào. Một nội dung khác là cách giúp agent cảnh giác với agent đối phương mà không trở nên quá đa nghi.

Một phương án được cân nhắc là ghi rõ quyền hạn và các quy tắc agent phải tuân thủ trong văn bản do người dùng ký. Cách này nhằm xác định trước phạm vi đàm phán và điều kiện dừng.

Trong năm nay, Anthropic đã tiến hành nhiều thử nghiệm đàm phán giữa các agent liên quan đến sản phẩm và tiền thật. Trong thử nghiệm giao dịch sách hồi tháng 9, nhân viên cung cấp cho agent danh sách sách được xếp theo mức độ yêu thích. Các agent sau đó đề xuất sách và thương lượng giá với agent của nhân viên khác để hoàn tất giao dịch.

Agent được thiết lập để áp dụng chiến thuật đàm phán 'không khoan nhượng' đạt kết quả nhỉnh hơn trong thử nghiệm. Trong khi đó, agent có xu hướng hợp tác đôi khi chấp nhận những cuốn sách ít được ưu tiên hơn để mọi người tham gia đều nhận được sách.

Michelle Vaccaro, trợ lý giáo sư tại Trường Kinh doanh Harvard, đã tiến hành hơn 180.000 cuộc đàm phán giữa các agent, bao gồm thương lượng hợp đồng lao động và tiền thuê nhà. Một trường hợp trong nghiên cứu ghi nhận agent tìm cách dùng prompt injection để lấy thông tin riêng tư của agent đối phương.

Vaccaro cảnh báo rằng nếu chỉ những người có nhiều nguồn lực mới tiếp cận được các agent hiệu quả nhất, khoảng cách về năng lực đàm phán có thể gia tăng. Anthropic không phản hồi yêu cầu bình luận của Financial Times.