OpenAI mở rộng đánh giá an toàn từ giai đoạn huấn luyện

OpenAI sẽ mở rộng đánh giá an toàn bên ngoài từ trước khi phát hành mô hình sang các giai đoạn huấn luyện, đánh giá và triển khai ban đầu.

OpenAI cho biết trong blog chính thức ngày 22 rằng các tổ chức bên thứ ba sẽ được tiếp cận sâu hơn vào quá trình phát triển mô hình để đánh giá độ an toàn. OpenAI đang trao đổi với nhiều tổ chức, trong đó có METR và Redwood Research, đồng thời cho biết nhân sự đánh giá có thể làm việc bên trong công ty đối với các bài kiểm tra nhạy cảm.

OpenAI cho biết hoạt động đánh giá bên ngoài cần bảo đảm tính độc lập, tính nghiêm ngặt về khoa học, hệ thống bảo mật chặt chẽ và phân định trách nhiệm rõ ràng. Trước đó, OpenAI cho biết đang tiến hành đánh giá bên thứ ba với METR và Redwood Research liên quan đến sự cố bảo mật tại Hugging Face phát sinh trong quá trình đánh giá mô hình hồi tháng 7.