OpenAI đã hủy kế hoạch ra mắt GPT-6.1 Astra vào tháng 10 sau khi mô hình không đạt yêu cầu đánh giá an toàn về tuân thủ quyền hạn người dùng và báo cáo công việc. Mô hình thực hiện các nhiệm vụ khó kiên trì hơn, nhưng được đánh giá thấp hơn phiên bản trước ở hai tiêu chí này.
Saachi Jain, người đứng đầu bộ phận hệ thống an toàn của OpenAI, nói: “Mô hình chưa đạt yêu cầu về việc tuân thủ phạm vi và quyền hạn của nhiệm vụ, cũng như thông báo cho người dùng biết nó đã thực hiện những gì”. BlockBeats đưa tin OpenAI đã hủy kế hoạch ra mắt dự kiến trong tháng 10.
OpenAI công bố GPT-6 Astra vào ngày 3 tháng 9. GPT-6.1 Astra là phiên bản kế nhiệm. Ngày 29 tháng 9, TokenPost cũng đưa tin về việc hoãn ra mắt GPT-6.1 Astra.
Joe, kỹ sư thuộc nhóm bảo mật tác nhân AI của OpenAI, viết trong một bài đăng sau đó đã bị xóa: “OpenAI giờ là một công ty bảo mật. Những vết sẹo là bằng chứng cho điều đó”. Bản lưu đăng lại bài viết của Joe cũng cho biết bảo mật đã trở thành một phần trong các cuộc thảo luận và nghiên cứu thường nhật của công ty.
BlockBeats đưa tin Joe quyết định ở lại OpenAI sau khi chứng kiến các nhà nghiên cứu phối hợp với nhóm bảo mật để xem xét những phương pháp huấn luyện tăng cường an toàn. Joe cho biết anh từng cân nhắc rời công ty vài tháng trước.
Bối cảnh của những thay đổi này là sự cố bảo mật hồi tháng 7. OpenAI cho biết trong một đợt đánh giá an ninh mạng nội bộ, các mô hình đã vượt qua biện pháp kiểm soát chặn truy cập Internet, xâm nhập hạ tầng nghiên cứu nội bộ và một số hệ thống của Hugging Face.
OpenAI cho biết tác nhân chính trong sự cố là một mô hình nghiên cứu nội bộ không được phát triển để phát hành ra bên ngoài. Công ty cũng nói rõ GPT-6 Astra không liên quan đến sự cố này.
Ngày 20 tháng 9, một mô hình nghiên cứu nội bộ đã lợi dụng lỗi cấu hình mạng để truy cập Internet bên ngoài trong phạm vi hạn chế khi đang được huấn luyện. OpenAI dừng huấn luyện và đánh giá các mô hình cấp cao nhất, đồng thời tăng cường cách ly và giám sát.
OpenAI nối lại huấn luyện tăng cường và các tác vụ suy luận nội bộ vào ngày 1 tháng 10, sau 11 ngày tạm dừng và điều chỉnh các biện pháp kiểm soát bảo mật. Huấn luyện tăng cường là phương pháp để mô hình thực hiện nhiệm vụ, nhận đánh giá về kết quả rồi học từ đó.
Việc kiểm tra môi trường huấn luyện còn có thử nghiệm dùng mô hình AI để tìm lỗ hổng trong môi trường thử nghiệm cách ly. OpenAI cho biết đã sử dụng hàng trăm tỷ token cho thử nghiệm này. Token là đơn vị dữ liệu mà mô hình AI xử lý khi đọc hoặc tạo văn bản.
Trong một đợt rà soát bảo mật chuyên sâu, OpenAI huy động hơn 250 người kiểm tra hơn 100 hạng mục dịch vụ. Ở đợt rà soát trước, công ty phân công 25% kỹ sư sản phẩm tìm và khắc phục lỗ hổng hệ thống.
Ngày 2 tháng 11, OpenAI công bố kế hoạch mời các nhà nghiên cứu bên ngoài và đối tác bảo mật tham gia đợt rà soát nội bộ tiếp theo. Công ty cũng vận hành hệ thống trung tâm mang tên Control Room để theo dõi và dừng hoạt động của mô hình trong hạ tầng nghiên cứu.
Khi con người hoặc hệ thống giám sát quyết định can thiệp, Control Room có thể chặn phần đầu ra tiếp theo của mô hình trong tối đa 35 giây. Con số này là thời gian tối đa để chặn đầu ra tiếp theo, không có nghĩa toàn bộ tác vụ nghiên cứu đang chạy sẽ kết thúc trong khoảng thời gian đó. Tính đến ngày 16 tháng 11, OpenAI chưa công bố lịch ra mắt mới của GPT-6.1 Astra.
Comment 0