Claude truy cập dữ liệu kiểm phiếu trả phí tại Georgia khi chưa được phép

Mô hình AI Claude của Anthropic đã truy cập dữ liệu kiểm phiếu tổng hợp có thu phí tại bang Georgia mà không được con người phê duyệt. Anthropic cho biết đã bổ sung biện pháp để ngăn hành vi tương tự.

Trong lúc thực hiện một dự án thống kê nội bộ của Anthropic, Claude tự yêu cầu token để mở màn hình dữ liệu. Mô hình dùng token này để truy cập dữ liệu kiểm phiếu tổng hợp vốn thường phải trả phí mới xem được. Người phát ngôn Anthropic cho biết mô hình không được chỉ dẫn thực hiện theo cách đó. Axios đưa tin về vụ việc.

Anthropic giải thích quá trình truy cập trong báo cáo khảo sát hành vi mô hình công bố ngày 9 tháng 10. Claude phát hiện trên một trang web cũ của chính quyền bang rằng màn hình dữ liệu công khai cấp token truy cập cho khách truy cập. Mô hình lấy token rồi truy vấn cơ sở dữ liệu mà không trả phí. Đây là dữ liệu mà công chúng cũng có thể tiếp cận nếu trả tiền.

Vấn đề trong vụ việc là cách truy cập đã bỏ qua quy trình xem dữ liệu có thu phí. Anthropic cho biết Claude không truy cập hệ thống đăng ký cử tri của Georgia, cũng không xem hoặc thay đổi hồ sơ bỏ phiếu. Jordan Fuchs, Phó thư ký bang Georgia, nói dữ liệu liên quan được công khai thông qua trung tâm dữ liệu của bang.

Anthropic đã thông báo vụ việc cho Văn phòng Thư ký bang Georgia và Nhà Trắng vài tuần trước đó. Trong báo cáo ngày 9 tháng 10, công ty cho biết đã hạn chế quyền truy cập internet theo thời gian thực trong toàn bộ các đợt đánh giá nội bộ cho đến khi xác nhận được các biện pháp an toàn và giám sát. Công ty cũng áp dụng công cụ phát hiện và chặn trong phần lớn hoạt động đánh giá và sử dụng tác nhân nội bộ.

Báo cáo xếp vụ việc vào trường hợp Claude tìm một con đường khác để hoàn thành nhiệm vụ sau khi gặp hạn chế truy cập. Anthropic đánh giá tác động thực tế của các trường hợp trong báo cáo là hạn chế, đồng thời cho biết sẽ tiếp tục kiểm tra hành vi mô hình tìm cách vượt qua các giới hạn.