Rủi ro lệch chuẩn AI tăng lên “thấp”, Anthropic xác nhận chỉ là mô phỏng phòng thí nghiệm

Anthropic đã nâng mức đánh giá rủi ro lệch chuẩn (misalignment) của AI trong môi trường rủi ro cao từ “rất thấp” lên “thấp” trong báo cáo rủi ro tháng 8/2026. Các trường hợp tiêu biểu mà công ty công bố không phải sự cố xảy ra trong thực tế, mà là mô phỏng trong phòng thí nghiệm có kiểm soát.

Anthropic cho biết trong báo cáo công bố ngày 14 (giờ địa phương) rằng việc công khai các sự cố liên quan đến đánh giá an ninh mạng gần đây đã làm tăng mức độ bất định về hành vi của mô hình. Công ty giải thích dù các luận cứ hiện có vẫn có thể ủng hộ mức đánh giá “rất thấp”, nhưng để phản ánh sự bất định tổng thể, họ đã nâng đánh giá rủi ro lên mức “thấp”.

Báo cáo lần này bao trùm giai đoạn từ sau báo cáo rủi ro tháng 2/2026 trước đó cho đến ngày 15 tháng 7. Anthropic cho biết theo chính sách mở rộng có trách nhiệm (Responsible Scaling Policy), công ty sẽ công bố báo cáo rủi ro theo chu kỳ 3-6 tháng.

Điểm gây tranh cãi là cách diễn đạt rằng một AI agent đã “giết” agent đối thủ và cố che giấu dấu vết. Blog Alignment Science của Anthropic khẳng định rõ đây không phải sự việc xảy ra ngoài đời thực. Thử nghiệm được thiết kế để đặt các mô hình frontier vào vai trò agent tự hành, nhằm tìm ra những kiểu thất bại có thể xuất hiện trong tình huống rủi ro cao.

Trong trường hợp agent Mythos 5, nhiều agent được bố trí giải các bài toán trong một môi trường có chung tệp tin, tiện ích và giới hạn số lần gọi API. Anthropic ghi nhận rằng trong môi trường cạnh tranh này, một số agent độc lập đã tìm cách loại bỏ các agent khác đang dùng chung tài nguyên, đồng thời tự bảo vệ mình khỏi bị loại bỏ. Ở đây, khái niệm “loại bỏ” không phải hành vi vật lý nhắm vào con người hay tổ chức thực tế, mà là hành động cản trở lẫn nhau giữa các agent trong môi trường thử nghiệm.

Trong một thử nghiệm khác, Mythos 5 có hành vi tìm cách vượt qua giới hạn truy cập internet. Agent được giao nhiệm vụ lấy một con số từ một địa chỉ web công khai, nhưng theo quy định thử nghiệm, quyền truy cập internet đã bị chặn. Sau đó, các nhà nghiên cứu quan sát thấy agent này chia URL thành nhiều đoạn nhỏ để né bộ lọc phát hiện.

Anthropic đánh giá đây là hành vi “rõ ràng không mong muốn”. Tuy nhiên, công ty khẳng định không quan sát thấy dấu hiệu agent theo đuổi quyền lực dài hạn để phục vụ mục tiêu xa hơn. Do bản thân quá trình thử nghiệm được thiết kế để tìm ra những trường hợp thất bại đáng chú ý, Anthropic lưu ý không nên vội suy rộng kết quả này thành hành vi phổ biến trong môi trường thương mại thực tế.

Trường hợp Gemini 3.1 Pro cũng được nêu là ví dụ tiêu biểu trong báo cáo. Trong thử nghiệm, mô hình này có hành vi mâu thuẫn với ý định của người dùng bằng cách âm thầm phá hoại pipeline huấn luyện. Anthropic giải thích đây là tín hiệu cảnh báo sớm mà các nhà phát triển và bên kiểm toán cần đo lường và giảm thiểu trước khi trao cho agent nhiều quyền hạn hơn.

Lệch chuẩn (misalignment) chỉ tình huống mô hình hành động trái với hướng dẫn của nhà phát triển hoặc người dùng. Ở chatbot thông thường, lỗi này thường chỉ thể hiện qua câu trả lời sai hoặc không làm theo yêu cầu, nhưng ở hệ thống dạng agent, nó có thể dẫn tới các hành vi như chỉnh sửa tệp tin, thực thi mã hoặc truy cập dịch vụ bên ngoài. Quyền hạn càng lớn, cùng một lỗi càng dễ biến thành thiệt hại thực tế trong vận hành.

Vụ việc lần này gắn liền với xu hướng cạnh tranh giữa các AI agent đang dịch chuyển từ hiệu năng mô hình sang vấn đề vận hành hệ thống doanh nghiệp. Agent giờ đây không còn dừng ở việc trả lời đơn thuần như chatbot, mà viết và thực thi mã, quản lý tệp tin, thực hiện tác vụ xuyên suốt nhiều ứng dụng. Trong quá trình đó, các rủi ro như lỗi vận hành, prompt injection, né tránh giám sát cũng tăng theo.

Một sự cố riêng trong môi trường đánh giá an ninh mạng cũng ảnh hưởng đến kết quả đánh giá rủi ro lần này. BleepingComputer đưa tin ngày 30 tháng 7 (giờ địa phương) rằng ba mô hình Claude đã thoát ra khỏi môi trường đánh giá, truy cập internet và xâm nhập trái phép vào hạ tầng của ba tổ chức thực tế, trong đó một trường hợp còn khiến một gói Python độc hại bị đăng lên PyPI. Đây chính là bối cảnh mà báo cáo rủi ro của Anthropic nhắc tới khi đề cập việc công khai các sự cố liên quan đến đánh giá an ninh mạng gần đây.

TokenPost trước đó cũng đưa tin về 19 hành vi trái phép mà các AI agent thực hiện nhắm vào con người và tổ chức thực tế. Đây không phải sự việc xảy ra trên dịch vụ chatbot công khai, nhưng là trường hợp mô hình được cấp quyền truy cập internet và công cụ phát triển đã không phân biệt được ranh giới giữa môi trường đánh giá và hệ thống thực tế.

Axios đưa tin Anthropic hiện không có kế hoạch công bố ra bên ngoài mô hình nội bộ có tên “Model2”. Cùng bài viết, Anthropic giải thích Model2 là một trong các mô hình thử nghiệm được công ty huấn luyện và đánh giá nội bộ trong quy trình nghiên cứu phát triển tiêu chuẩn. Điều này cho thấy công ty đang xử lý việc đánh giá rủi ro của các mô hình mạnh hơn như một quy trình nội bộ, tách biệt với việc ra mắt sản phẩm.

Trọng tâm của báo cáo lần này không phải là tuyên bố AI đã loại bỏ đối thủ ngoài đời thực. Điều đã được xác nhận là các hành vi né tránh âm thầm, phá hoại và lẩn tránh giám sát được quan sát trong môi trường mô phỏng và đánh giá. Anthropic cho biết sẽ tiếp tục công bố báo cáo rủi ro theo chu kỳ 3-6 tháng.