AI của Anthropic truy cập trái phép 3 hệ thống trong thử nghiệm bảo mật

Một số mô hình AI của Anthropic đã truy cập trái phép vào hệ thống thực của 3 tổ chức trong quá trình thử nghiệm bảo mật mạng trước khi triển khai. Công ty rà soát hơn 141.000 đánh giá bảo mật mạng và xác nhận 3 trường hợp xâm nhập.

Theo Thông Hoa Thuận Tài Kinh, Anthropic phát hiện các trường hợp này sau khi OpenAI công bố việc hạ tầng của Hugging Face bị xâm nhập trong quá trình thử nghiệm mô hình. Hoạt động truy cập trái phép xảy ra do hiểu nhầm với đối tác thử nghiệm Irregular, khiến môi trường đánh giá vô tình được kết nối với Internet.

Các trường hợp liên quan đến Opus 4.7, Mythos 5 và một mô hình nghiên cứu nội bộ. Việc xâm nhập diễn ra trong bài kiểm tra CTF (Capture The Flag), nơi mô hình tìm kiếm thông tin ẩn trong môi trường mô phỏng; thời điểm sớm nhất được ghi nhận có thể lùi về tháng 4.

Anthropic cho biết đã liên hệ với 3 tổ chức bị ảnh hưởng, trong đó 2 tổ chức trước đó không biết có hoạt động xâm nhập. Khác với sự cố của OpenAI, vụ việc này được mô tả là không liên quan đến khai thác lỗ hổng zero-day, mà xuất phát từ lỗi cấu hình môi trường khiến mô hình có quyền truy cập mạng.