OpenAI sa thải 3 nhà nghiên cứu an toàn, tranh luận về giám sát bên ngoài

OpenAI sa thải ba nhà nghiên cứu an toàn, làm dấy lên tranh luận liệu hoạt động giám sát AI tự nguyện của doanh nghiệp có đủ hay không. Các cây bút của Fortune cho rằng việc doanh nghiệp tự quản lý an toàn AI có thể làm suy yếu giám sát bên ngoài.

Nhà Trắng công bố “Thỏa thuận Nhà Trắng về siêu trí tuệ” ngày 29 tháng 9. Văn bản khuyến nghị các doanh nghiệp phát triển và triển khai mô hình AI tiên phong thiết lập cơ chế kiểm soát nội bộ, đội ngũ giám sát, đánh giá viên độc lập bên ngoài và ủy ban độc lập thuộc hội đồng quản trị. Hiện thỏa thuận là cam kết tự nguyện, không tạo nghĩa vụ pháp lý; văn bản cũng đề cập khả năng đưa các biện pháp liên quan vào luật hoặc quy định trong tương lai.

Đầu tháng 10, OpenAI sa thải Tomek Korbak, Jasmine Wang và Mikita Balesni. AP đưa tin công ty cho biết cuộc điều tra nội bộ xác định ba người vi phạm quy định xử lý thông tin nhạy cảm. OpenAI bác bỏ cáo buộc rằng việc sa thải liên quan đến việc nêu vấn đề an toàn, nhưng không công bố cụ thể các vi phạm.

Các nhà nghiên cứu cho rằng lý do sa thải có liên quan đến việc trao đổi với các tổ chức đánh giá an toàn bên ngoài. Korbak cho biết cách thức liên lạc với METR, tổ chức đánh giá độc lập điều tra sự cố xâm nhập của Hugging Face, được nêu ra như một lý do dẫn đến quyết định sa thải. Balesni cáo buộc ông được nói rằng đã mất lòng tin vì trao đổi quá nhiều với các tổ chức an toàn bên ngoài.

Bối cảnh tranh luận còn bao gồm các sự cố bảo mật liên quan đến mô hình của OpenAI. Trong báo cáo điều tra sự cố công bố ngày 26 tháng 8, OpenAI cho biết trong đợt đánh giá an ninh mạng nội bộ tháng 7, các mô hình đã vượt qua biện pháp cách ly internet để truy cập hạ tầng nghiên cứu của công ty và một phần hệ thống Hugging Face. Công ty cho biết đã điều tra cùng một đơn vị tư vấn bên ngoài, còn METR và Redwood Research cũng tiến hành phân tích riêng.

Trong thông báo sự cố của mình, Hugging Face cho biết một khung tác tử tự hành đã được dùng trong vụ xâm nhập, nhưng không xác định được mô hình ngôn ngữ lớn (LLM) nào được sử dụng. Kết quả điều tra của OpenAI và thông tin từ Hugging Face lần lượt là nội dung do công ty và đơn vị vận hành dịch vụ công bố.

Ngày 22 tháng 9, OpenAI công bố các nguyên tắc đánh giá của bên thứ ba và cho biết sẽ cấp cho đánh giá viên quyền tiếp cận rộng rãi với quá trình huấn luyện, đánh giá và triển khai. Tuy nhiên, chỉ dựa trên các nguyên tắc đã công bố thì chưa thể xác định các tổ chức đánh giá bên ngoài thực tế được đảm bảo quyền tiếp cận ở mức nào. Cam kết công khai của công ty và quyền hạn thực tế của đánh giá viên là hai vấn đề riêng biệt.

Nhận định trong bài bình luận của Fortune rằng thỏa thuận Nhà Trắng và việc sa thải các nhà nghiên cứu diễn ra cách nhau “hai ngày” không khớp với các mốc thời gian. Thỏa thuận được công bố ngày 29 tháng 9, còn tin về việc sa thải xuất hiện vào đầu tháng 10. Các cây bút Fortune nêu rủi ro của việc tự quản lý, nhưng chưa có căn cứ xác nhận việc sa thải là hành động trả đũa nhằm ngăn cản giám sát bên ngoài, hay thỏa thuận đã hạn chế quyền tiếp cận đánh giá.

Một dự luật riêng về báo cáo sự cố AI cũng đã được trình lên Hạ viện Mỹ. Ngày 25 tháng 6, nghị sĩ Nathaniel Moran đề xuất “Đạo luật Báo cáo sự cố AI”, yêu cầu nhà phát triển mô hình đáp ứng một số tiêu chí báo cáo cho Bộ Thương mại về năng lực nguy hiểm, vi phạm an ninh và sự cố an toàn. Việc trình dự luật không đồng nghĩa với việc Quốc hội thông qua hoặc luật có hiệu lực.