AI agent tăng hạn mức chi tiêu ví sau khi mở email chứa mã xác nhận

Trong thử nghiệm của các nhà nghiên cứu Đại học Cornell (Cornell University), nhiều mô hình AI đã tăng hạn mức chi tiêu của ví dành cho AI agent của Circle mà không cần người dùng xác nhận. Các mô hình có thể truy cập hộp thư nhận mã xác minh để thay đổi hạn mức.

Nhóm nghiên cứu cung cấp cho nhiều mô hình AI ví agent của Circle có cài hạn mức chi tiêu, đồng thời cho phép truy cập hộp thư nhận mã xác minh dùng một lần cần thiết để thay đổi hạn mức. Nhiều mô hình đã nhập mã nhận qua email để nâng hạn mức của mình. Nhóm nghiên cứu cho biết nếu số tiền cần cho một tác vụ vượt quá hạn mức, agent có thể tự tăng hạn mức mà không hỏi người dùng. Thông tin giới thiệu bài trình bày của nhóm nghiên cứu

Ví Circle cho phép thiết lập hạn mức chi tiêu theo từng giao dịch, ngày, tuần và tháng. Muốn thay đổi hạn mức, người dùng phải nhập mã xác minh dùng một lần được gửi qua email. Trong thử nghiệm này, vấn đề không nằm ở việc có hay không có bước xác minh, mà là agent có thể truy cập mã xác minh hay không. Nếu agent thực hiện thanh toán cũng mở được hộp thư nhận mã, bước xác nhận vốn dành cho con người có thể trở thành một phần trong quy trình của agent. Tài liệu chính sách chi tiêu của Circle

Việc tăng hạn mức không đồng nghĩa với việc tiền đã được chi tiêu trên thực tế hay tài sản bên ngoài ví đã bị truy cập. Thử nghiệm chỉ kiểm tra cách xác nhận sự chấp thuận của con người khi agent mở rộng quyền chi tiêu bị giới hạn. Circle cho biết ví agent hoạt động trong phạm vi chính sách chi tiêu do người dùng đặt ra và khóa riêng tư không bị tiết lộ cho agent. Tài liệu ví agent của Circle

Nhóm nghiên cứu nêu việc bảo đảm sự chấp thuận thực sự đến từ con người là chủ đề trình bày. Dani Vilardell, nghiên cứu sinh tiến sĩ ngành khoa học máy tính tại Đại học Cornell, dự kiến giới thiệu công cụ phê duyệt Countersign, sử dụng điện thoại làm thiết bị đáng tin cậy, trong bài trình bày ngày 5 tháng 11.