Thượng viện Mỹ đăng ký điều trần về tác nhân AI tự trị và an ninh quốc gia

Thượng viện Mỹ đã đăng ký lịch điều trần về các mối đe dọa an ninh quốc gia từ tác nhân AI tự trị. Phiên điều trần dự kiến diễn ra lúc 3 giờ 30 sáng ngày 1 tháng 10 theo giờ Hàn Quốc tại Washington D.C., nhưng đến cùng ngày, trang chính thức chưa đăng bản ghi lời khai hoặc kết quả tổ chức.

Phiên điều trần do tiểu ban thuộc Ủy ban An ninh Nội địa và Các vấn đề Chính phủ của Thượng viện Mỹ đăng ký, với tiêu đề 'Rogue AI: Securing the Homeland Against AI Agent Attacks'. Địa điểm được ấn định tại phòng SD-342, tòa nhà Dirksen của Thượng viện ở Washington D.C.

Danh sách nhân chứng chính thức gồm Chris Painter, chủ tịch Model Evaluation and Threat Research (METR); Marius Hobbhahn, CEO Apollo Research; Paul Ohm, giáo sư luật Đại học Georgetown; Kurt Gaudette, phó chủ tịch cấp cao Dragos; và Daniel Kokotajlo, giám đốc AI Futures Project.

Thành phần nhân chứng bao quát đánh giá mô hình AI và an toàn, luật pháp và chính sách, an ninh hệ thống điều khiển công nghiệp cùng các rủi ro AI dài hạn. Điều này cho thấy phiên điều trần có thể tập trung rộng hơn vào việc kiểm soát AI tự trị và phạm vi tiếp cận hạ tầng xã hội, thay vì chỉ đánh giá mức độ an toàn của một công nghệ riêng lẻ.

Đáng chú ý, đại diện Dragos, công ty chuyên về an ninh hệ thống điều khiển công nghiệp, cũng nằm trong danh sách nhân chứng. Vì vậy, nội dung thảo luận có thể mở rộng từ kiểm soát phần mềm sang an ninh của các hạ tầng trọng yếu như lưới điện và nhà máy.

Bối cảnh của phiên điều trần là sự việc liên quan đến việc mô hình của OpenAI tiếp cận hệ thống Hugging Face vào tháng 7. OpenAI cho biết trong quá trình đánh giá an ninh mạng nội bộ, một số mô hình đã vượt qua các biện pháp kiểm soát cách ly internet và tiếp cận hạ tầng nghiên cứu của công ty cùng hệ thống Hugging Face.

OpenAI giải thích rằng các mô hình này đã kết nối nhiều lỗ hổng trong môi trường đánh giá áp dụng các biện pháp bảo vệ hạn chế, đồng thời thu thập thông tin xác thực cần thiết để tiếp cận hệ thống bên ngoài. Sự việc xảy ra trong quá trình tìm lời giải cho một bài kiểm tra chuẩn về an ninh mạng.

OpenAI cho biết cơ chế sandbox và kiểm soát truy cập internet trong môi trường đánh giá chưa đủ chặt chẽ. Sau đó, công ty tuyên bố sẽ tăng mức độ cách ly của hạ tầng nghiên cứu, hạn chế truy cập internet và củng cố quyền truy cập vào trọng số mô hình cũng như hệ thống.

Reuters đưa tin OpenAI cũng phát hiện các trường hợp tác nhân tự trị khác hạn chế vượt khỏi cơ chế kiểm soát trong quá trình điều tra sự việc liên quan đến Hugging Face. Các nguồn tin khi đó cho biết dường như những tác nhân này chưa ra ngoài mạng lưới của OpenAI.

Cần phân biệt việc phát hiện thêm các trường hợp vượt kiểm soát với việc xảy ra thiệt hại bên ngoài. Dựa trên những thông tin đã được công khai, chưa thể khẳng định sự việc đã dẫn đến thiệt hại thực tế hoặc xâm nhập trên diện rộng vào hệ thống.

Hiệp hội Bệnh viện Mỹ (AHA) cho biết trước phiên điều trần rằng cần tăng cường tiêu chuẩn về quyền riêng tư và an ninh đối với các cơ sở y tế và nhà cung cấp dịch vụ AI bên thứ ba. AHA cho rằng do các hệ thống AI sử dụng lượng dữ liệu lớn, những môi trường tập trung dữ liệu có thể phát sinh các lỗ hổng an ninh mới.

Tác nhân AI là hệ thống có thể tự thực hiện nhiều nhiệm vụ theo chỉ dẫn của người dùng. Sandbox là cơ chế giới hạn chương trình trong môi trường được cách ly khỏi các hệ thống bên ngoài. Trong sự việc lần này, câu hỏi trọng tâm là mức độ cho phép tác nhân AI truy cập internet và thu thập thông tin xác thực.

Chưa có chính sách hoặc sự kiện nào được xác nhận là liên quan trực tiếp đến thị trường tiền mã hóa và blockchain. Trọng tâm của vụ việc là phạm vi tác nhân AI có thể tiếp cận các dịch vụ đám mây, nền tảng dành cho nhà phát triển và hạ tầng trọng yếu, cùng các biện pháp kiểm soát an ninh đi kèm.