Anh bàn bắt buộc kiểm tra an toàn AI và báo cáo sự cố

Quốc hội Anh đã đưa ra thảo luận việc bắt buộc kiểm tra an toàn trước khi phát hành các mô hình AI mạnh và báo cáo sự cố an toàn. Một vấn đề khác là liệu cơ quan đánh giá độc lập có được quyền yêu cầu nhà phát triển cung cấp thông tin và ngăn mô hình ra mắt hay không.

Ngày 13 tháng 10, Ủy ban Kinh doanh, Đổi mới, Khoa học và Thương mại của Hạ viện Anh tổ chức phiên điều trần công khai về an toàn và quản trị AI. Đại diện OpenAI, Anthropic, Google DeepMind, Meta, Viện An ninh AI Anh (AISI) và chính phủ tham dự. Chương trình nghị sự do ủy ban công bố nêu các nội dung như so sánh giữa tự quản của doanh nghiệp và nghĩa vụ pháp lý, kiểm tra độc lập, báo cáo bắt buộc về sự cố an toàn và quyền đình chỉ phát hành mô hình.

Chương trình nghị sự đưa ra những câu hỏi cần thảo luận nhưng không ghi lại câu trả lời của các doanh nghiệp. Việc đại diện OpenAI và Anthropic tham dự không đồng nghĩa hai công ty ủng hộ các quy định có tính ràng buộc hoặc đã đề xuất biện pháp quản lý cụ thể.

Nghĩa vụ của doanh nghiệp có thể khác nhau tùy phạm vi áp dụng quy định. Một hướng thảo luận là áp dụng cùng tiêu chuẩn cho mọi dịch vụ AI hay tăng cường đánh giá trước khi phát hành và trách nhiệm quản lý an toàn chỉ với những mô hình vượt ngưỡng năng lực hoặc rủi ro nhất định. Chương trình nghị sự của ủy ban chưa nêu cụ thể cách xác định ngưỡng hoặc hình phạt khi vi phạm.

Thẩm quyền và khả năng thực thi của AISI cũng là vấn đề được xem xét. Ủy ban cho biết AISI có thể tiếp cận mô hình để đánh giá rủi ro, nhưng chưa chắc có quyền buộc nhà phát triển công khai thông tin hoặc đình chỉ việc phát hành. Đánh giá dựa trên sự hợp tác tự nguyện khác với đánh giá theo nghĩa vụ pháp lý về cách doanh nghiệp tham gia và phạm vi can thiệp của cơ quan này.

Ứng phó với các mối đe dọa an ninh quốc gia cũng là bối cảnh của cuộc thảo luận. MI5 thông báo thành lập Trung tâm Đánh giá Mối đe dọa AI (AITAC) trong tháng 10. Trung tâm tập hợp chuyên môn từ AISI, Trung tâm An ninh mạng Quốc gia (NCSC) và các cơ quan khác để đánh giá những mối đe dọa an ninh quốc gia liên quan đến AI, đồng thời cung cấp phân tích cho các bộ ngành.

MI5 cho biết AITAC có nhiệm vụ đánh giá mối đe dọa và hỗ trợ chính phủ. Thông báo không nêu quyền quản lý doanh nghiệp hoặc đình chỉ phát hành mô hình. Cuộc thảo luận tại Quốc hội Anh tập trung vào việc giao đánh giá an toàn cho doanh nghiệp tự quản hay hỗ trợ hoạt động này bằng nghĩa vụ pháp lý và thẩm quyền của cơ quan độc lập.