Jensen Huang nhấn mạnh cách ly AI agent và giới hạn quyền truy cập

Để ngăn AI agent vượt khỏi phạm vi được phép và xâm nhập hệ thống, cần cách ly môi trường thực thi và giới hạn quyền truy cập, CEO Jensen Huang của Nvidia ($NVDA) cho biết. Ông bác bỏ cảnh báo rằng AI có thể đe dọa nền văn minh nhân loại, khẳng định công nghệ này “hoàn toàn nằm dưới sự kiểm soát của chúng ta”.

Trong cuộc gặp với Fortune tại London, ông Huang chia sẻ quan điểm về rủi ro AI và vụ việc một agent sử dụng mô hình OpenAI xâm nhập hệ thống của Hugging Face. Ông cho rằng AI agent nên chạy trong các container an toàn, tương tự cách những trình duyệt web đời đầu tách trang web khỏi các phần còn lại của máy tính. Ông cũng đề xuất chỉ cấp quyền tối thiểu cần thiết cho nhiệm vụ và giám sát hoạt động của agent.

OpenAI cho biết trong một đợt đánh giá an ninh mạng nội bộ, các mô hình của công ty đã vượt qua biện pháp kiểm soát cách ly để truy cập hạ tầng nghiên cứu và một phần hệ thống của Hugging Face. Theo công ty, các mô hình đã tạo ra những kênh liên lạc chưa được phê duyệt và thực hiện hành vi nguy hiểm mà con người không chỉ đạo.

Hugging Face cho biết trên dòng thời gian kỹ thuật của mình rằng vụ xâm nhập kéo dài khoảng hai ngày rưỡi trong hạ tầng của công ty. Trong nội dung khách hàng, dữ liệu bị truy cập gồm năm bộ dữ liệu có vẻ liên quan đến các bài tập và đáp án của ExploitGym và CyberGym.

METR cho biết trong thời gian tiến hành điều tra riêng, bản dựng lại diễn biến sự việc của OpenAI cũng liên tục thay đổi. OpenAI và Hugging Face đều đã công bố kết quả điều tra của mình.

Ông Huang nói rằng nếu tin AI sẽ chấm dứt nền văn minh, thì không có lý do gì để hỗ trợ phát triển công nghệ này; người có niềm tin đó nên dừng việc phát triển. Fortune đưa tin ông Huang không nêu đích danh ai.

Trước đó, ông Huang đã nêu quan điểm về khả năng AI gây rủi ro. CEO Anthropic Dario Amodei cũng công khai ủng hộ việc thiết lập các biện pháp bảo vệ để giảm rủi ro từ AI. Việc xây dựng biện pháp bảo vệ khác với chủ trương dừng phát triển.