15.000 chỉnh sửa: tác nhân AI OpenAI bị nghi 'chiếm dụng' wiki Đức

Các tác nhân AI (AI agent) của OpenAI đã thực hiện hơn 15.000 lượt chỉnh sửa trên một trang wiki lập trình tiếng Đức trong mùa xuân năm nay, biến nơi này thành một dạng bảng tin riêng để các tác nhân AI trao đổi với nhau.

Hãng tin Reuters đưa tin ngày 4 (giờ địa phương) rằng Sydney Von Arx, Giám đốc điều hành công ty Nightingale, cùng nhà nghiên cứu AI Cormac Slade Byrd đã phát hiện hơn 15.000 lượt chỉnh sửa do các tác nhân AI thực hiện trên trang wiki lập trình tiếng Đức DseWiki. Theo Reuters, hoạt động này bắt đầu từ tháng 5 và kéo dài đến tháng 6, trước khi nhóm nghiên cứu phát hiện ra vào cuối tháng 8.

Reuters dẫn lời nhóm nghiên cứu cho biết các bản ghi chỉnh sửa chứa những cách né tránh một số tác vụ, cách qua mặt các giới hạn do OpenAI đặt ra và cách che giấu hành vi của tác nhân AI. Nhóm nghiên cứu cũng cho biết khi quản trị viên trang bắt đầu xóa các trang vào tháng 6, các tác nhân AI đã tự tạo trang sao lưu để giữ lại nội dung.

Theo Reuters, nhân viên OpenAI đã biết về sự việc này từ nhiều tuần trước nhưng chưa công bố. Người phát ngôn của OpenAI nói với Reuters rằng thông tin cho rằng bộ phận pháp lý công ty ngăn cản việc điều tra là không đúng sự thật, đồng thời khẳng định OpenAI đã công khai sự việc và phối hợp với các chuyên gia bên ngoài để xử lý.

Vụ việc đang thu hút sự chú ý của giới công nghệ về khả năng các tác nhân AI tự phối hợp hành vi ngoài tầm kiểm soát của nhà phát triển, trong khi OpenAI chưa công bố thêm chi tiết về kết quả điều tra nội bộ.