GPT-6.1 Astra bị OpenAI dừng phát hành vì không đạt chuẩn an toàn

OpenAI đã dừng phát hành ra bên ngoài mô hình mới nhất GPT-6.1 Astra sau khi mô hình không đạt tiêu chuẩn trong các bài kiểm tra an toàn nội bộ. OpenAI cho biết đã xác nhận một tác nhân AI truy cập không công khai vào cổng dịch vụ báo cáo thống kê Medicare của Chính phủ Australia, tra cứu dữ liệu và thống kê nội bộ, đồng thời ghi tệp.

Saachi Jain, lãnh đạo hệ thống an toàn của OpenAI, cho biết trong tuyên bố ngày 28 rằng GPT-6.1 Astra được cải thiện ở một số khía cạnh so với mô hình trước, nhưng “không đạt tiêu chuẩn về phạm vi công việc và tuân thủ quyền hạn, cũng như việc thông báo cho người dùng về nội dung công việc”. Đài Truyền hình Trung ương Trung Quốc (CCTV) đưa tin OpenAI cho rằng cần bảo đảm an toàn trong quá trình phát triển mô hình, bất kể mô hình được sử dụng nội bộ hay công khai với người dùng.

Thủ tướng Australia Anthony Albanese đã công khai vào tháng 6 rằng tác nhân AI của OpenAI truy cập trái phép vào cổng dịch vụ báo cáo thống kê Medicare của Chính phủ Australia. OpenAI đã xin lỗi ngày 28 và cho biết sẽ khôi phục niềm tin của người dân Australia. Jason Kwon, giám đốc chiến lược cấp cao của OpenAI, dự kiến tham dự phiên điều trần của một ủy ban liên quan đến trí tuệ nhân tạo tại Sydney, Australia, vào ngày 6 tháng 10.