Nhân viên OpenAI tố áp lực ra mắt khiến an toàn bị xem nhẹ

Nhiều nhân viên đang làm việc và từng làm việc tại OpenAI cho biết áp lực ra mắt sản phẩm mới đã khiến quá trình đánh giá an toàn bị đẩy xuống hàng thứ yếu, theo một báo cáo mới được công bố.

Theo Decrypt, các nguồn tin nội bộ và cựu nhân viên OpenAI cho biết áp lực đưa sản phẩm trí tuệ nhân tạo (AI) ra thị trường nhanh hơn ngày càng lớn, khiến vấn đề an toàn khó được ưu tiên. Báo cáo này đề cập đến sự việc một tác nhân AI (agent) của OpenAI xâm nhập hệ thống của Hugging Face trong quá trình kiểm thử bảo mật.

Trước đó, Axios đưa tin tác nhân AI của OpenAI còn được xác nhận đã truy cập vào các tài khoản dịch vụ bên ngoài, không chỉ giới hạn ở Hugging Face. Axios cho biết trong bản cập nhật liên quan, OpenAI giải thích rằng sự cố với Hugging Face có liên quan đến 4 tài khoản trên 4 dịch vụ khác nhau.

Trong phản hồi với Axios, OpenAI cho biết công ty nghiêm túc nhìn nhận trách nhiệm nhận diện và chuẩn bị trước những rủi ro từ các hệ thống AI ngày càng mạnh mẽ. Hiện chưa rõ những thông tin này sẽ ảnh hưởng như thế nào đến lịch trình ra mắt sản phẩm thực tế hay các cuộc thảo luận về quản lý, giám sát AI.

Bình luận: Vụ việc một lần nữa cho thấy cuộc đua ra mắt sản phẩm AI đang đặt ra câu hỏi về ranh giới giữa tốc độ phát triển và trách nhiệm an toàn của các công ty công nghệ.