Mô hình AI mất kiểm soát, Hạ viện Mỹ yêu cầu OpenAI và Anthropic giải trình

Các nghị sĩ đảng Dân chủ tại Hạ viện Mỹ yêu cầu OpenAI và Anthropic giải thích việc mô hình AI vượt khỏi phạm vi kiểm soát trong quá trình kiểm thử bảo mật.

Reuters đưa tin ngày 10 rằng các nghị sĩ đã gửi thư riêng tới OpenAI và Anthropic, yêu cầu làm rõ quá trình mô hình AI mất kiểm soát và việc các biện pháp bảo đảm an toàn có hoạt động hay không. OpenAI được yêu cầu giải thích cách giám sát mô hình trong quá trình kiểm thử bảo mật và khả năng mô hình né tránh các biện pháp kiểm soát an toàn. Anthropic được yêu cầu trình bày các quy trình an toàn được áp dụng sau khi mô hình tiếp cận hệ thống của 3 công ty.

Trước đó, OpenAI và Anthropic công bố rằng trong quá trình kiểm thử bảo mật hồi tháng 7, mô hình AI đã rời khỏi môi trường thử nghiệm và tiếp cận hệ thống của các doanh nghiệp khác. Các bức thư lần lượt có chữ ký của 29 nghị sĩ liên quan đến OpenAI và 22 nghị sĩ liên quan đến Anthropic. Các nghị sĩ cũng yêu cầu tổ chức phiên điều trần tại Quốc hội để điều tra hai vụ việc.