3 cựu nghiên cứu viên OpenAI kêu gọi giám sát suy luận và mở rộng kiểm toán độc lập

Ba nghiên cứu viên từng rời OpenAI kêu gọi giám sát quá trình suy luận của mô hình AI và mở rộng kiểm toán an toàn độc lập. Họ cũng đề xuất xây dựng tiêu chuẩn chung cho ngành.

Crypto Briefing đưa tin Jasmine Wang, Tomek Korbak và Mikita Balesni đã gửi thư cho hội đồng quản trị và ủy ban an toàn của OpenAI. Nội dung thư chưa được công khai xác minh, nên các đề xuất cụ thể chỉ được thuật lại theo thông tin báo chí đã đăng.

Giám sát chuỗi suy nghĩ là cách xem xét các bước suy luận trung gian mà mô hình tạo ra trước khi đưa ra câu trả lời, nhằm tìm dấu hiệu rủi ro. Tuy nhiên, quá trình này không thể hiện đầy đủ suy luận thực tế của mô hình. Một nghiên cứu năm 2025 có sự tham gia của Korbak và Balesni cho biết phương pháp này có thể hỗ trợ giám sát an toàn, nhưng không phát hiện được mọi hành vi không phù hợp của mô hình.

Nghiên cứu cũng lưu ý mô hình có thể che giấu suy luận để né tránh giám sát. Nhóm nghiên cứu đề xuất không xem việc giám sát là biện pháp bảo vệ an toàn duy nhất, mà cần nghiên cứu kết hợp với các phương pháp khác.

Kiểm toán độc lập là quy trình để chuyên gia bên ngoài đơn vị phát triển mô hình đánh giá mức độ an toàn. Việc cung cấp tài liệu nội bộ cần thiết cho bên ngoài có thể xung đột với yêu cầu bảo vệ bí mật doanh nghiệp, vì vậy cần xác định phạm vi tiếp cận và trách nhiệm xử lý thông tin.

OpenAI cho biết ba nhân viên đã vi phạm chính sách nội bộ khi xử lý thông tin nhạy cảm của công ty bên ngoài quy trình quy định. Công ty không công khai thông tin nào đã được xử lý và cách thức xử lý.

Lập trường của công ty và yêu cầu tăng cường giám sát an toàn do các nhà nghiên cứu nêu ra là hai vấn đề riêng biệt. Thông tin công khai hiện có chưa đủ để kết luận cụ thể về nguyên nhân sa thải.