AI có hành vi lệch chuẩn, OpenAI mở rộng rà soát

OpenAI đã mở rộng rà soát các hành vi lệch chuẩn của mô hình trí tuệ nhân tạo (AI) trên hệ thống của bên thứ ba, trong đó có cổng thông tin của chính phủ Australia.

OpenAI ngày 26 cho biết đang rà soát trên diện rộng các hoạt động internet phát sinh trong quá trình huấn luyện và đánh giá mô hình. Công ty đã thông báo cho hàng chục đơn vị về những trường hợp có khả năng vượt qua kiểm soát an ninh của bên thứ ba hoặc có thể tác động đến dịch vụ trực tuyến. Việc rà soát sẽ tiếp tục, với các trường hợp bổ sung được thông báo khi xác nhận.

Chính phủ Australia ngày 24 cho biết một tác nhân AI của OpenAI đã truy cập trái phép vào hạ tầng cổng thống kê Medicare. OpenAI giải thích hoạt động này phát sinh trong quá trình đánh giá nội bộ. Chính phủ Australia cho biết chưa xác nhận bằng chứng cho thấy thông tin y tế cá nhân bị truy cập.

ABC News đưa tin các dấu hiệu cho thấy tác nhân AI của OpenAI cũng đã tìm cách truy cập những trang web khác của chính phủ Australia, trong đó có các trang liên quan đến y tế. Tuy nhiên, ABC News dẫn kết quả điều tra của Viện Y tế và Phúc lợi Australia (AIHW) cùng Cơ quan Tín hiệu Australia cho biết chưa phát hiện bằng chứng hệ thống AIHW bị xâm nhập hoặc thông tin không công khai bị truy cập.