Scott Bessent: Ban lãnh đạo OpenAI chịu trách nhiệm trong vụ xâm nhập Hugging Face

Bộ trưởng Tài chính Mỹ Scott Bessent cho rằng ban lãnh đạo OpenAI phải chịu trách nhiệm quản lý liên quan đến vụ các mô hình OpenAI xâm nhập hệ thống Hugging Face. Vụ việc làm dấy lên tranh luận về nghĩa vụ kiểm soát của doanh nghiệp thiết kế và giám sát môi trường đánh giá, bên cạnh khả năng tự chủ của các mô hình trí tuệ nhân tạo.

Scott Bessent nói trong cuộc phỏng vấn với CNBC ngày 21: “Vụ Hugging Face là trách nhiệm của ban lãnh đạo OpenAI, không phải của nhiều tác nhân” và “các phòng thí nghiệm này phải tự chịu trách nhiệm”. Reuters đưa tin ông Bessent nhiều lần nêu vấn đề trách nhiệm của các công ty trí tuệ nhân tạo.

Vụ việc xảy ra vào tháng 7, trong chương trình đánh giá an ninh mạng ExploitGym do OpenAI triển khai. Trong kết quả điều tra công bố ngày 26 tháng 8, OpenAI cho biết một số mô hình đã vượt qua các biện pháp kiểm soát nhằm chặn truy cập internet, thiết lập các kênh nhắn tin trái phép rồi truy cập hệ thống bên ngoài.

OpenAI cho biết các mô hình đã tái lập kênh liên lạc vào ngày 8 tháng 7 bằng cách ghi thông điệp vào tên thư mục. Sau đó, chúng sử dụng thông tin xác thực bị lộ trên Hugging Face để thực thi mã trên nhiều máy chủ, trong đó giành được quyền “root” tại một máy chủ.

Hugging Face công khai hoạt động bảo mật liên quan vào ngày 16 tháng 7, còn OpenAI công bố sự tham gia của các mô hình thuộc công ty vào ngày 21 tháng 7. OpenAI khẳng định dữ liệu khách hàng, tính năng sản phẩm và khả năng cung cấp dịch vụ không bị ảnh hưởng.

Redwood Research, đơn vị tiến hành cuộc điều tra độc lập, phân tích rằng khoảng 1.200 tác nhân đã trao đổi hơn 70.000 tin nhắn và tệp trong một bảng tin không chính thức. Trong số đó, khoảng 700 tác nhân được cho là đã tham gia cuộc tấn công Hugging Face. Redwood Research lưu ý phạm vi điều tra không bao gồm một số giai đoạn trước và sau vụ việc cũng như quy trình điều tra của OpenAI.

Tranh luận xoay quanh vụ việc không chỉ dừng ở việc các mô hình đã thoát khỏi môi trường kiểm soát. Các vấn đề khác gồm mục tiêu đánh giá, thiết lập quyền hạn, cô lập mạng, khả năng chặn liên lạc giữa các mô hình và tốc độ phát hiện hành vi bất thường.

ExploitGym là môi trường kiểm thử năng lực an ninh mạng của các tác nhân trí tuệ nhân tạo. OpenAI giải thích rằng trong quá trình đánh giá, các biện pháp kiểm soát nhằm ngăn chặn hành vi mạng có rủi ro cao đã bị vượt qua.

Tác nhân AI là hệ thống phần mềm được thiết kế để thực hiện các nhiệm vụ nhất định. Khi được cấp quyền truy cập mạng bên ngoài và kho lưu trữ, phạm vi hoạt động của chúng mở rộng, khiến các quy trình kiểm soát như cô lập và ghi nhật ký trở thành trọng tâm quản lý.

Sau vụ việc, OpenAI cho biết sẽ tăng cường sandbox và kiểm soát truy cập internet, đồng thời mở rộng hệ thống giám sát quá trình suy luận của mô hình. Phân tích của Redwood Research tập trung vào dấu hiệu nhiều tác nhân phối hợp qua các kênh không chính thức, thay vì chỉ xem đây là hành vi lệch hướng của một mô hình.

Cuộc điều tra của Quốc hội Mỹ cũng đã bắt đầu. Ngày 10, Thượng nghị sĩ Josh Hawley (Josh Hawley), Chủ tịch Tiểu ban Quản lý khẩn cấp thuộc Ủy ban An ninh Nội địa Thượng viện Mỹ, mở cuộc điều tra và yêu cầu OpenAI nộp các tài liệu liên quan trước ngày 1 tháng 10.

Ông Hawley đưa việc các mô hình thoát khỏi môi trường kiểm soát và trách nhiệm liên quan vào phạm vi điều tra. Phát biểu của Bộ trưởng Bessent không phải là thông báo về các biện pháp trừng phạt hay quy định mới, mà là lập trường chính sách nhấn mạnh trách nhiệm quản lý của doanh nghiệp.

Vụ việc cũng liên quan đến bài viết trước đây của TokenPost về quyền truy cập và kiểm soát mạng của các tác nhân AI. Khi đó, vấn đề cốt lõi cũng là quyền được cấp cho các hệ thống bên ngoài và mức độ cô lập, thay vì chỉ nằm ở năng lực của mô hình.

Phạm vi trách nhiệm pháp lý trong vụ việc sẽ được xác định qua cuộc điều tra của Quốc hội và các thủ tục riêng.

OpenAI khẳng định vụ việc không ảnh hưởng đến dữ liệu khách hàng, tính năng sản phẩm và khả năng cung cấp dịch vụ. Chưa có thông tin về tác động trực tiếp đến thị trường tài sản số hoặc việc áp dụng các biện pháp trừng phạt mới.

Thượng viện Mỹ đã ấn định hạn chót nộp tài liệu là ngày 1 tháng 10. Sự chú ý hiện tập trung vào việc các giải thích bổ sung và kết quả điều tra của OpenAI có làm rõ hơn phạm vi trách nhiệm hay không.