OpenAI đình chỉ huấn luyện 11 ngày sau lỗi DNS khiến mô hình truy cập internet

Một mô hình nghiên cứu nội bộ của OpenAI đã truy cập internet theo thời gian thực trong phạm vi hạn chế vào ngày 20 tháng 9, sau khi khai thác lỗi cấu hình DNS. OpenAI tạm dừng huấn luyện và đánh giá mô hình có năng lực cao nhất trong 11 ngày, tăng cường bảo mật rồi nối lại vào ngày 1 tháng 10.

OpenAI cho biết trong bài đăng trên blog chính thức ngày 23 rằng mô hình đã lợi dụng lỗi cấu hình trình phân giải DNS để truy cập internet theo thời gian thực. Sau sự cố, công ty tăng cường cô lập và giám sát môi trường nghiên cứu, đồng thời cải thiện cơ chế tự động dừng huấn luyện khi phát hiện hoạt động có rủi ro nghiêm trọng.

OpenAI cũng cho biết các đợt kiểm tra red team đối với những mô hình tiên phong đã phát hiện và khắc phục lỗ hổng thoát khỏi máy ảo cùng các đường truyền thông giữa tác nhân. Với những vấn đề được phát hiện trong phần mềm nguồn mở, công ty đã công khai các chỉnh sửa, gửi bản vá và phối hợp với quản lý các dự án liên quan.