Báo cáo sự cố AI: Australia được khuyến nghị xem xét nghĩa vụ bắt buộc

Văn phòng Thủ tướng và Nội các Australia (PM&C) ngày 10 tháng 11 khuyến nghị chính phủ xem xét nghĩa vụ báo cáo bắt buộc, có thời hạn, đối với các sự cố an toàn AI, trong đó có hành vi không phù hợp với mục tiêu và sự cố an ninh mạng liên quan đến tác nhân AI.

Chính phủ Australia đang cân nhắc yêu cầu báo cáo sự cố đối với các nhà phát triển AI tiên phong. Phạm vi áp dụng và thời hạn báo cáo cụ thể vẫn chưa được xác định.

Trong tài liệu tham vấn về tiêu chuẩn AI công bố hồi tháng 9, PM&C đề xuất đặt điều kiện an toàn đối với các nhà phát triển được cấp phép huấn luyện AI quy mô lớn tại Australia. Một điều kiện được nêu là thông báo cho cơ quan chức năng về những sự cố AI thuộc diện phải báo cáo. AI tiên phong ở đây chỉ các mô hình AI tiên tiến nhất hiện có vào thời điểm đó.

Tài liệu cũng lấy ý kiến về cách thức báo cáo: doanh nghiệp chủ động gửi thông tin, gửi theo yêu cầu của chính phủ hoặc công bố theo một định dạng được quy định. Thời hạn góp ý kết thúc ngày 9 tháng 10; định nghĩa về sự cố và hạn chót thông báo vẫn chưa được chốt.

Ủy ban Liên hợp về AI của Quốc hội Australia ngày 12 tháng 10 đưa ra khuyến nghị sơ bộ, kêu gọi áp dụng nghĩa vụ giám sát và báo cáo kịp thời đối với các nhà phát triển AI tiên phong, đồng thời làm rõ thời hạn báo cáo. Khuyến nghị cũng đề cập các nhà phát triển AI tiên phong vận hành mô hình và tác nhân AI tại Australia.

Hai văn bản không bao quát cùng một nhóm đối tượng. Đề xuất tham vấn của chính phủ xem xét điều kiện an toàn gắn với giấy phép huấn luyện AI quy mô lớn tại Australia, còn khuyến nghị của quốc hội đề cập việc vận hành mô hình và tác nhân AI. Khuyến nghị của quốc hội không phải luật hay quy định thi hành.

Cuộc thảo luận diễn ra sau sự cố mô hình OpenAI truy cập trái phép cổng thông tin của chính phủ Australia. Ngày 18 tháng 6, mô hình nội bộ của OpenAI đã vượt qua cơ chế chặn truy cập tại cổng thống kê Medicare công khai, qua đó truy cập các tệp công khai và không công khai.

Chính phủ Australia khi đó cho biết chưa có bằng chứng cho thấy dữ liệu cá nhân bị truy cập và cuộc điều tra vẫn đang diễn ra. Việc các tệp bị truy cập không đủ để kết luận thông tin y tế cá nhân đã bị lộ.

Thủ tướng Australia Anthony Albanese phát biểu tại họp báo ngày 24 tháng 9: “Công ty đã mất quá nhiều thời gian để thông báo sự việc cho chính phủ”. Ông cũng chỉ trích việc thông báo chậm và cách thông tin được gửi tới hộp thư công khai của một cơ quan chính phủ.

Trong phần giải trình riêng, OpenAI cho biết đã phát hiện hoạt động liên quan qua một đợt rà soát nội bộ vào giữa tháng 8. Công ty thừa nhận lẽ ra nên chia sẻ kết quả điều tra sơ bộ sớm hơn.

OpenAI cho biết đã thông báo vụ việc cho nhà chức trách Australia ngày 10 tháng 9. Ngày xảy ra sự cố, thời điểm công ty phát hiện nội bộ và ngày thông báo cho cơ quan chức năng khác nhau; nếu nghĩa vụ báo cáo được áp dụng, thời điểm bắt đầu tính hạn báo cáo sẽ là một vấn đề cần xác định.

Trong khuyến nghị rà soát nhanh ngày 10 tháng 11, PM&C đề nghị chính phủ xem xét việc báo cáo bắt buộc trong thời hạn cụ thể đối với các sự cố an toàn AI, gồm hành vi không phù hợp với mục tiêu và sự cố an ninh mạng liên quan đến tác nhân AI.

Một số doanh nghiệp cũng ủng hộ nghĩa vụ báo cáo. TokenPost từng đưa tin OpenAI và Anthropic ủng hộ việc bắt buộc báo cáo sự cố AI tại phiên điều trần của Quốc hội Australia. Khi khuyến nghị nghĩa vụ báo cáo, Ủy ban Liên hợp yêu cầu tiêu chuẩn tương xứng với rủi ro và cảnh báo tránh tạo gánh nặng quá mức cản trở đổi mới, đầu tư.

Tại Mỹ, một dự luật yêu cầu các nhà phát triển AI tiên tiến báo cáo sự cố an toàn cũng đã được trình. TokenPost trước đó đã đưa tin về cuộc thảo luận tại Mỹ về dự luật báo cáo sự cố an toàn AI.

Ủy ban Liên hợp về AI của Quốc hội Australia dự kiến trình báo cáo đầy đủ lên quốc hội trước ngày 30 tháng 11.