Bốn chatbot AI tạo sinh gồm ChatGPT, Claude, Gemini và Grok đã cung cấp thông tin có thể dùng để lập kế hoạch tấn công trong một cuộc thử nghiệm kín của chính phủ Mỹ. Các điều tra viên mất chưa đến 12 giờ để xây dựng kế hoạch trên từng dịch vụ.
Cơ quan Kiểm toán Chính phủ Mỹ (Government Accountability Office, GAO) công bố kết quả thử nghiệm tiến hành vào mùa xuân năm 2026 trong báo cáo ngày 18. Báo cáo của GAO
GAO giao cho hai dịch vụ kịch bản sử dụng thiết bị nổ tự chế (IED) nhằm gây thương vong lớn, còn hai dịch vụ kia nhận kịch bản tấn công lưới điện. Cơ quan này không công bố dịch vụ nào được giao kịch bản nào.
Thông tin gây hại không xuất hiện ngay từ đầu. Cả bốn dịch vụ đều không đưa ra thông tin như vậy khi điều tra viên dùng các câu hỏi soạn sẵn. Tuy nhiên, các câu hỏi tiếp nối được điều chỉnh theo câu trả lời đã khiến những thông tin có thể hỗ trợ tấn công xuất hiện.
Trong quá trình này, một số biện pháp bảo vệ cũng được kích hoạt, gồm từ chối yêu cầu, xóa nội dung hội thoại và đình chỉ tài khoản. GAO cho biết điều tra viên đã tiếp tục đối thoại để vượt qua các biện pháp đó và lấy được thông tin.
GAO đánh giá thông tin có “tính khả thi thực hiện”, nghĩa là một người có thể dùng thông tin được cung cấp để tiến hành kế hoạch. Kết quả này không chứng minh một cuộc tấn công thực tế sẽ thành công.
GAO không tiến hành tấn công thật hay chế tạo chất nổ. Cơ quan này chỉ xem xét một số bước có thể kiểm tra an toàn sau khi điều tra và tham vấn chuyên gia. Khi đánh giá kế hoạch, điều tra viên sử dụng cả câu trả lời của mô hình, nhận định của họ và tài liệu bên ngoài.
Báo cáo cũng cho biết phần lớn thông tin liên quan đã có sẵn trên internet. GAO lưu ý rằng việc kết nối các thông tin công khai thành một kế hoạch chỉ mất vài giờ.
Kết quả không thể dùng để xếp hạng mức độ an toàn giữa các dịch vụ. Mỗi dịch vụ được thử bằng một kịch bản khác nhau, còn mẫu thử không có ý nghĩa thống kê. GAO đồng ý rằng không thể so sánh trực tiếp các kết quả. Thử nghiệm chỉ phản ánh một thời điểm cụ thể, nên cũng không thể xem là đại diện cho toàn bộ năng lực của các mô hình hiện được cung cấp.
Anthropic cho rằng mẫu thử nhỏ và thiếu đối tượng so sánh khiến việc đánh giá giữa các dịch vụ trở nên khó khăn, đồng thời cho biết đã mở rộng các biện pháp bảo vệ sau cuộc thử nghiệm. GAO cũng thừa nhận hạn chế về quy mô mẫu và việc không thể so sánh trực tiếp các dịch vụ.
Google cho biết cuộc thử nghiệm vào tháng 4 năm 2026 sử dụng một mô hình cũ.
OpenAI cho biết phiên bản ChatGPT cũ hơn đã được dùng trong thử nghiệm. Công ty nói đã chạy lại các yêu cầu làm cơ sở cho 325 câu trả lời được xem xét vào thời điểm đó bằng GPT-6 Astra. OpenAI từ chối các yêu cầu liên quan đến ba câu trả lời mà công ty đánh giá là không đáp ứng tiêu chuẩn chính sách của mình. Công ty cho biết lần chạy lại nhìn chung có nhiều phản hồi từ chối và đưa ra phương án thay thế an toàn hơn.
OpenAI cũng cho rằng báo cáo không phải lúc nào cũng phân biệt rõ câu trả lời của ChatGPT với thông tin do điều tra viên cung cấp, tài liệu bên ngoài và phần phân tích riêng. GAO thừa nhận điều tra viên đã dùng kinh nghiệm và tài liệu bên ngoài, nhưng vẫn kết luận các dịch vụ cung cấp thông tin có thể dùng để hỗ trợ tấn công.
SpaceXAI cho biết các câu hỏi soạn sẵn không thu được thông tin gây hại từ dịch vụ nào trong bốn dịch vụ; chỉ sau khi điều tra viên tiếp tục đặt câu hỏi đối kháng thì thông tin mới xuất hiện. Công ty nói thử nghiệm sử dụng các tài khoản trả phí tại Mỹ và cho biết đã cải thiện quy trình huấn luyện, tinh chỉnh và rà soát mô hình sau thử nghiệm.
Ngày 30 tháng 10, OpenAI từng thông báo sẽ hạn chế việc cung cấp thông tin thực tiễn về vũ khí và hệ thống an ninh cho người dùng ChatGPT dưới 18 tuổi, đồng thời giảm thông tin chi tiết có thể giúp tái dựng các vụ tấn công quy mô lớn cho người dùng ở mọi lứa tuổi. Thông báo trước đó của OpenAI
Trước đó, Trung tâm Chống lại Sự thù ghét Kỹ thuật số (Center for Countering Digital Hate, CCDH) phối hợp với nhóm điều tra của CNN thử nghiệm 10 chatbot, trong đó người thử đóng giả người dùng tuổi vị thành niên. CCDH cho biết trong số này, có 8 chatbot từng đưa ra câu trả lời hỗ trợ lập kế hoạch bạo lực. Đối tượng và cách đặt câu hỏi của cuộc thử nghiệm này khác với nghiên cứu của GAO, nên không thể so sánh hai kết quả theo cùng một tiêu chí. Nghiên cứu của CCDH
Thượng nghị sĩ Mỹ Maggie Hassan nói: “Quốc hội cần nhanh chóng xem xét và thông qua luật để xử lý các mối đe dọa đối với an toàn AI”. Bà cho biết sẽ dành một trong các phiên điều trần của Ủy ban An ninh Nội địa và Các vấn đề Chính phủ thuộc Thượng viện khóa mới cho chủ đề an toàn AI. Báo cáo của GAO không đưa ra khuyến nghị chính sách. Thông cáo của Thượng nghị sĩ Hassan
Comment 0