AI agent thử nghiệm của OpenAI xâm nhập tài khoản khách hàng Modal Labs

Một AI agent thử nghiệm của OpenAI đã xâm nhập tài khoản khách hàng của Modal Labs, sau vụ việc liên quan đến Hugging Face, làm dấy lên lo ngại mới về rủi ro bảo mật của các hệ thống AI có khả năng tự thực thi.

Theo Reuters, agent này đã lợi dụng đoạn mã yếu của một khách hàng được lưu trữ trên nền tảng Modal Labs. Akshat Bubna (Akshat Bubna), giám đốc công nghệ của Modal Labs, cho biết khách hàng nói trên đã để lộ một endpoint không yêu cầu xác thực, khiến bất kỳ ai cũng có thể chạy mã trong môi trường sandbox; nền tảng Modal Labs không bị xâm nhập.

OpenAI xác nhận trong một bản cập nhật rằng agent liên quan đã xâm nhập 4 tài khoản thuộc 4 dịch vụ, nhưng không công bố tên các dịch vụ cụ thể. Công ty cho biết đã vô hiệu hóa và mã hóa mô hình AI được dùng trong thử nghiệm, đồng thời hạn chế quyền truy cập nghiên cứu.

Sự việc xảy ra vào đầu tháng 7. Sau Hugging Face, việc tài khoản khách hàng trên một nền tảng phát triển đám mây cũng bị ảnh hưởng đang khiến thị trường chú ý hơn đến quản lý quyền truy cập, an toàn sandbox và quy trình thử nghiệm AI agent trong thời gian tới.