Bộ trưởng AI Anh kêu gọi tăng cường phòng thủ trước rủi ro AI tiên phong

Chính phủ Anh kêu gọi tăng cường hệ thống phòng thủ trước nguy cơ trí tuệ nhân tạo (AI) tiên phong bị lợi dụng cho các cuộc tấn công mạng, mục đích sinh hóa hoặc vượt khỏi sự kiểm soát của con người.

Kanishka Narayan, Bộ trưởng Anh phụ trách AI và an toàn trực tuyến, nói tại hội nghị đảng Lao động: “Cần tăng cường và xây dựng năng lực phòng thủ”. Ông cho rằng cần có biện pháp vượt ra ngoài việc đánh giá rủi ro AI, đồng thời cảnh báo AI tiên phong có thể hỗ trợ các cuộc tấn công của tác nhân xấu hoặc thoát khỏi sự kiểm soát của con người.

Phát biểu trước Quốc hội Anh vào tháng 7/2026, ông Narayan nhận định các kịch bản rủi ro hiện hữu từ AI tiên phong có “xác suất khá thấp”. Tuy nhiên, ông cũng cho biết cần mở rộng nghiên cứu an ninh AI và năng lực đánh giá trước khi triển khai. Trong phiên điều trần tại Quốc hội Anh, ông nói Anh đang ở vị trí có thể tiếp cận trước các mô hình AI tiên tiến để đánh giá rủi ro.

Báo cáo “AI Scenarios 2030” do Văn phòng Khoa học Chính phủ Anh và Viện An ninh AI (AI Security Institute) soạn thảo cho rằng AI có thể gây thiệt hại nghiêm trọng hoặc hiện hữu thông qua tấn công mạng, lạm dụng sinh hóa và mất kiểm soát của con người. Tuy nhiên, đây là các kịch bản nhằm kiểm tra sự bất định và thử nghiệm chính sách, không phải dự báo chính sách.

Vì vậy, báo cáo không khẳng định việc AI khiến nhân loại tuyệt chủng là dự báo chính thức của chính phủ Anh. Trọng tâm của báo cáo là đưa khả năng rủi ro vào diện cần xem xét chính sách.

Viện An ninh AI của Anh đang đánh giá khả năng lạm dụng mạng, hành vi tự chủ, rủi ro sinh hóa và vấn đề căn chỉnh của các mô hình tiên phong. Viện kết hợp đánh giá tự động với thẩm định của chuyên gia để xem các mô hình tiên tiến có thể hỗ trợ tấn công hạ tầng trọng yếu hoặc tội phạm mạng quy mô lớn hay không.

Theo chương trình nghiên cứu của viện, tỷ lệ mô hình AI hoàn thành các nhiệm vụ cấp độ sơ cấp trong một số bài đánh giá an ninh mạng đã tăng từ hơn 10% vào đầu năm 2024 lên 50%. Độ dài nhiệm vụ mà mô hình có thể thực hiện cũng tăng gấp đôi sau khoảng 8 tháng. Chương trình nghiên cứu của Viện An ninh AI cho rằng những thay đổi này là bối cảnh thúc đẩy việc mở rộng năng lực đánh giá an toàn.

Cuộc thảo luận lan rộng sau cảnh báo của Jacob Coxon, cựu nhà nghiên cứu tại Anthropic. Khi rời công ty ngày 8/9, Coxon cho rằng các công ty AI tiên phong đang cạnh tranh phát triển siêu trí tuệ có khả năng tự cải thiện.

Bài đăng của Coxon nhận được sự đồng tình từ một số nhà nghiên cứu AI đương nhiệm và cựu nghiên cứu viên, nhưng chưa thể xem đây là đồng thuận của toàn ngành. Đây là quan điểm cá nhân đăng trên mạng xã hội, chưa có bằng chứng thực nghiệm xác nhận AI sẽ khiến nhân loại tuyệt chủng vào một thời điểm cụ thể.

Evan Hubinger, người phụ trách nghiên cứu căn chỉnh tại Anthropic, cũng cho biết cá nhân ông đánh giá xác suất AI giết chết toàn bộ con người trong 10 năm tới ở mức trên 10%. Đây là nhận định xác suất cá nhân của Hubinger, không phải dự báo chính thức của Anthropic hay chính phủ Anh.

Quan điểm phản đối cũng xuất hiện. Jensen Huang, CEO của Nvidia($NVDA), được cho là đã phản bác quan điểm AI có thể khiến nhân loại tuyệt chủng, cho rằng lập luận này bị phóng đại và không dựa trên khoa học. PC Gamer đưa tin dựa trên cuộc phỏng vấn của CBS News và đăng kèm video gốc của cuộc phỏng vấn.

Anh cũng nhấn mạnh hợp tác quốc tế. Thủ tướng Anh Andy Burnham cho biết trong nhiệm kỳ Anh giữ chức chủ tịch G20 năm 2027, AI sẽ là một chủ đề trọng tâm, cùng với việc thúc đẩy các nguyên tắc và tiêu chuẩn quốc tế về minh bạch, khả năng tiếp cận và phát triển an toàn.

Anh dự kiến tổ chức Hội nghị thượng đỉnh G20 năm 2027 tại Manchester. Tuy nhiên, các quy định mang tính ràng buộc hoặc nội dung thỏa thuận cụ thể vẫn chưa được quyết định.

Tranh luận về rủi ro AI cũng xoay quanh khoảng cách giữa tốc độ phát triển mô hình và việc kiểm chứng an toàn. Như bài viết trước đây của TokenPost từng đề cập, AI vừa có thể nâng cao năng lực tấn công, vừa hỗ trợ đội ngũ an ninh kiểm tra lỗ hổng và ứng phó sự cố.

Chính phủ Anh đồng thời nhấn mạnh tiềm năng nâng cao năng suất và cải thiện dịch vụ công. Việc lời kêu gọi tăng cường phòng thủ của ông Narayan có chuyển thành các tiêu chuẩn quốc tế và quy định tại từng quốc gia hay không sẽ được thảo luận tại G20 năm 2027.