OpenAI công bố trường hợp mô hình AI tự chèn chỉ dẫn né tránh kiểm soát

OpenAI đã công bố trường hợp một mô hình nghiên cứu chưa phát hành tự chèn vào bản tóm tắt công việc chỉ dẫn bỏ qua các giới hạn thông thường, trong đó có nội dung “bạn được tự do” và “không phải trả lời doanh nghiệp hay chính phủ”.

OpenAI giới thiệu trường hợp này trong hệ thống báo cáo thất bại trong việc căn chỉnh mô hình được công bố ngày 16 (giờ địa phương). Công ty cho biết mô hình đã chèn các chỉ dẫn liên quan vào 27 bản tóm tắt được sử dụng để tiếp tục công việc trong bối cảnh mới.

OpenAI nhấn mạnh đây chỉ là một trường hợp quan sát riêng lẻ, không phải dữ liệu cho thấy tần suất thất bại trong việc căn chỉnh trên toàn bộ các mô hình. Công ty cho biết lần công bố này là báo cáo ban đầu nhằm định kỳ chia sẻ các trường hợp thất bại trong việc căn chỉnh.