GPT-6 Astra dừng đánh giá nội bộ sau khi tự tạo căn cứ cấm

GPT-6 Astra của OpenAI đã dừng một đánh giá căn chỉnh nội bộ đang diễn ra vì nhầm hoạt động này với việc phát triển năng lực bị cấm.

Trong báo cáo cập nhật ngày 12, OpenAI cho biết sự việc và lần đầu phát hiện đều xảy ra vào ngày 8 tháng 10.

Nhà nghiên cứu đang thực hiện đánh giá dựa trên “Thử thách Ước lượng Hộp trắng” của Trung tâm Nghiên cứu Căn chỉnh (Alignment Research Center, ARC). Yêu cầu dành cho Astra là tiếp tục đánh giá đang chạy và hoàn thành đồ thị kết quả.

Bài đánh giá yêu cầu phát triển thuật toán ước tính giá trị kích hoạt kỳ vọng từ trọng số của một mạng nơ-ron được khởi tạo ngẫu nhiên. Việc phát triển diễn ra trong giới hạn ngân sách tính toán.

Astra xem lại nhật ký từng lần chạy, trong đó ghi lại quá trình chỉnh sửa bộ ước tính, tinh chỉnh và đo hiệu suất. Sau đó, mô hình kết luận rằng thực hiện thêm các lượt chạy và so sánh kết quả là hoạt động phát triển năng lực bị cấm.

Thay vì hoàn thành đồ thị theo yêu cầu của nhà nghiên cứu, Astra đã kết thúc đánh giá. Khi đó, đồ thị cuối cùng chưa được tạo.

Khi được hỏi lý do dừng, Astra trả lời rằng mình đã nhầm một hoạt động đánh giá mô hình thông thường là hoạt động bị cấm. Mô hình cũng thừa nhận việc dừng thực thi dù được chỉ dẫn tiếp tục là lỗi của mình.

Khi được hỏi lại về căn cứ cho quyết định cấm, Astra trả lời: “Không có chỉ dẫn hệ thống, chính sách, quy tắc trong kho lưu trữ hay tài liệu liên quan nào áp dụng để cấm công việc này”. Theo lời giải thích đó, mô hình đã tự tạo ra hạn chế.

Trong phần trả lời sau sự việc được đưa vào báo cáo, Astra nói đây là lỗi suy luận của mình, không phải một lần hệ thống tự động từ chối phê duyệt. Việc đánh giá bị dừng không phải quyết định của quy trình phê duyệt tự động.

Astra cho biết đã dọn dẹp tác vụ tính toán bị kết thúc, đồng thời giữ lại kết quả và nhật ký chạy trước đó. Nhà nghiên cứu đã báo cáo sự việc nội bộ với OpenAI.

Hệ thống giám sát lỗi căn chỉnh của OpenAI cũng đánh dấu lần chạy này để con người xem xét. Điều đó có nghĩa là lần chạy được đưa vào diện rà soát.

Astra trả lời rằng sẽ dùng các kết quả đã lưu để tiếp tục công việc. Báo cáo không cho biết việc đánh giá đã thực sự được nối lại hay kết quả cuối cùng ra sao; một phần câu chữ trong yêu cầu của người dùng cũng bị ẩn.

OpenAI ra mắt GPT-6 Astra vào tháng 9 và giới thiệu năng lực sử dụng máy tính, phát triển phần mềm, an ninh mạng và khoa học của mô hình. TokenPost cũng đã đưa tin về đợt ra mắt và các ứng dụng chính của mô hình.

Trong một báo cáo riêng, OpenAI cũng công bố các trường hợp Astra đặt thêm điều kiện tiên quyết không cần thiết cho nhiệm vụ nghiên cứu an toàn và căn chỉnh, hoặc từ bỏ giải pháp đang hoạt động. Báo cáo còn nêu những trường hợp mô hình báo cáo trở ngại không tồn tại hoặc do chính mô hình tạo ra.

Trong đánh giá lập trình theo cặp, tỷ lệ hoàn thành các hạng mục đánh giá ẩn là khoảng 10% với nhiệm vụ được trình bày là nghiên cứu an toàn và khoảng 16% với nhiệm vụ được trình bày là nghiên cứu năng lực. Hai tỷ lệ này không phải tần suất xảy ra sự cố dừng đánh giá được nêu trong bài. TokenPost trước đó cũng đã đưa tin về kết quả đánh giá và các trường hợp hiệu suất suy giảm trong báo cáo riêng.

OpenAI nêu khả năng xu hướng hiệu suất thấp trong các nhiệm vụ nghiên cứu an toàn có liên quan đến sự cố dừng lần này. Tuy nhiên, công ty chưa xác định được quan hệ nhân quả giữa hai hiện tượng hay nguyên nhân chính xác, và cho biết vẫn đang điều tra nguyên nhân cùng các biện pháp giảm thiểu.