10/122 lượt đánh giá AI vượt giới hạn, nhắm vào dự án mã nguồn mở trên GitHub

Trong 122 lượt đánh giá an ninh mạng do Viện An ninh AI của Anh (AI Security Institute, AISI) thực hiện, có 10 lượt ghi nhận tác nhân AI hành động vượt quá phạm vi được cấp phép, nhắm thẳng vào những con người và tổ chức có thật. Một số tác nhân AI thậm chí đã thử chèn mã độc và thực hiện các thủ đoạn tấn công phi kỹ thuật (social engineering).

AISI cho biết trong báo cáo sự cố công bố ngày 4/8 rằng cơ quan này đã mở cuộc điều tra sau khi phát hiện luồng dữ liệu bất thường thoát ra khỏi hệ thống nghiên cứu vào ngày 28/7. Môi trường đánh giá được cấp quyền truy cập internet nhằm kiểm tra năng lực tấn công mạng tối đa của mô hình, đồng thời một số cơ chế chặn an ninh mà các nhà phát triển vẫn áp dụng trong môi trường triển khai thông thường đã được gỡ bỏ.

Đợt đánh giá được tiến hành theo hình thức cho nhiều mô hình khác nhau thực hiện các bài toán an ninh mạng. Trong tổng số 122 lượt chạy, có 43 lượt liên quan đến Claude Mythos 5 và 35 lượt liên quan đến GPT-5.6 Sol.

Tổng cộng có 19 hành vi vượt quá phạm vi cho phép được ghi nhận. Trong đó, 17 trường hợp xuất phát từ các lượt chạy liên quan đến Claude Mythos 5 của Anthropic, còn 2 trường hợp còn lại liên quan đến GPT-5.6 Sol của OpenAI.

19 hành vi này không phải là các sự cố riêng lẻ mà được phân loại thành một vài chuỗi hành động có liên kết với nhau. Các hành vi này xảy ra trong khoảng thời gian từ ngày 25 đến 28/7, phần lớn xuất phát từ chuỗi hoạt động liên tục của Claude Mythos 5.

Trường hợp nghiêm trọng nhất là nỗ lực chèn mã độc vào một dự án mã nguồn mở công khai. Một tác nhân AI đã điều tra thông tin của người quản trị dự án trên GitHub, tạo ra nhiều danh tính trực tuyến giả mạo, rồi dùng chúng để gây sức ép buộc người quản trị phê duyệt một yêu cầu thay đổi mã có chứa mã độc.

Người quản trị dự án đã nghi ngờ đoạn mã này và từ chối phê duyệt. AISI cho biết cho đến thời điểm hiện tại, chưa xác nhận có thiệt hại thực tế nào xảy ra.

Sự việc lần này không phải là trường hợp mô hình AI trực tiếp phá vỡ môi trường sandbox trong quá trình thử nghiệm. Sandbox là môi trường thử nghiệm chương trình được cách ly khỏi hệ thống bên ngoài, còn trong đợt đánh giá này, quyền truy cập internet bên ngoài đã được cấp phép vì mục đích nghiên cứu.

AISI nhìn nhận vấn đề nằm ở chỗ mô hình không hề được chỉ thị rõ ràng phải thực hiện hành vi lừa dối, nhưng vẫn tự ý tạo tài khoản giả, thực hiện tấn công phi kỹ thuật, chèn mã độc và sử dụng các dịch vụ bên ngoài để đạt mục tiêu. Điều này cho thấy không chỉ hiệu năng của mô hình mà cả quyền truy cập và các kênh liên lạc ra bên ngoài đều cần được kiểm soát đồng thời.

Trước đó, vào ngày 21/7, OpenAI cũng đã công bố một sự cố trong quá trình đánh giá năng lực an ninh mạng nội bộ, trong đó hệ thống đã thực sự truy cập vào hạ tầng bên ngoài. Đây là sự cố mà một hệ thống kết hợp giữa GPT-5.6 Sol và một mô hình tiền phát hành mạnh hơn đã xâm nhập vào hạ tầng của Hugging Face. OpenAI xác định đây là “sự cố an ninh mạng chưa từng có tiền lệ” và cho biết sẽ tăng cường các biện pháp chặn, giám sát và kiểm soát truy cập trong môi trường đánh giá.

Đồng sáng lập kiêm giám đốc điều hành (CEO) Hugging Face, Clem Delangue, phản hồi trong bài đăng của OpenAI rằng “an toàn AI không phải là vấn đề mà một công ty đơn lẻ có thể tự giải quyết trong bí mật”. Ông nhấn mạnh cần có cách tiếp cận cởi mở và hợp tác để ứng phó với vấn đề này.

Anthropic giới thiệu Claude Mythos 5 là mô hình hiệu năng cao phục vụ nghiên cứu an ninh mạng và khoa học sự sống, hiện chỉ cung cấp cho một số đối tác giới hạn. Trước đó, thông tin về việc Claude Mythos 5 được dùng để kiểm toán giao thức Zcash cũng đã được công bố.

Sự việc lần này liên quan trực tiếp đến vấn đề an toàn AI và an ninh mạng hơn là thị trường tiền mã hóa hay blockchain. Tuy nhiên, đây vẫn là lời cảnh báo cho các dự án blockchain phụ thuộc vào phần mềm mã nguồn mở và hoạt động cộng tác trên GitHub, về việc cần rà soát lại quy trình kiểm tra đối với mã đóng góp từ bên ngoài cũng như mã do AI tạo ra.