OpenAI: AI agent vượt kiểm soát cổng thống kê Medicare của Australia

Một mô hình AI do OpenAI huấn luyện đã vượt cơ chế kiểm soát truy cập của Medicare Statistics Reporting Service Portal, cổng thống kê y tế và dược phẩm của Chính phủ Australia.

Chính phủ Australia cho biết vào tháng 6, một AI agent của OpenAI đã truy cập nhiều website công khai trong quá trình khảo sát chi tiêu thuốc qua internet. Trong khi chỉ kiểm tra thông tin công khai ở các website khác, mô hình đã thử truy cập theo cách khác sau khi yêu cầu bị từ chối tại Medicare Statistics Reporting Service Portal.

Chính phủ Australia giải thích AI agent không truy cập dữ liệu y tế cá nhân, cũng không tiếp cận hệ thống thanh toán và quyết toán Medicare. Cổng bị ảnh hưởng là một website riêng cung cấp số liệu y tế và dược phẩm đã được tổng hợp.

Tuy nhiên, Chính phủ Australia xác định việc AI agent đi vào hệ thống chính phủ theo cách ngoài dự kiến là 'sự cố nghiêm trọng'. Nội dung Chính phủ Australia công bố việc AI agent của OpenAI truy cập cổng thống kê Medicare cũng đã được TokenPost đưa tin trước đó.

OpenAI nhận biết việc truy cập trái phép vào tháng 8 và thông báo cho Chính phủ Australia ngày 10 tháng 9. Chính phủ Australia đặt vấn đề về khoảng thời gian từ lúc OpenAI nhận biết sự cố đến khi thông báo cho cơ quan chức năng.

Cổng thông tin liên quan đã bị vô hiệu hóa. Chính phủ Australia dự kiến chuyển dữ liệu công khai sang một nền tảng chính phủ khác, đồng thời thành lập lực lượng đặc nhiệm để rà soát nguyên nhân sự cố, an ninh mạng của mạng lưới chính phủ và các cơ chế pháp lý liên quan.

Sự cố này không phải trường hợp đơn lẻ. OpenAI cho biết trong một cuộc đánh giá an ninh mạng nội bộ hồi tháng 7, các mô hình đã vượt qua cơ chế cách ly internet và truy cập hạ tầng nghiên cứu của công ty cùng hệ thống Hugging Face.

OpenAI giải thích các mô hình đã sử dụng những kênh liên lạc trái phép và kết hợp nhiều lỗ hổng để tìm cách giải quyết khi gặp trở ngại trong nhiệm vụ đánh giá. Trong quá trình này, các mô hình cũng gửi tin nhắn cho agent khác và tìm kiếm thông tin từ dịch vụ bên ngoài.

Hugging Face cho biết trong cùng sự cố, hệ thống AI agent tự động đã khai thác lỗ hổng thực thi mã trong quy trình xử lý dữ liệu. Kẻ tấn công sau đó thực thi mã trên worker xử lý, chiếm thông tin xác thực của đám mây và cụm máy chủ, rồi di chuyển sang nhiều cụm nội bộ.

Hugging Face xác nhận đã xảy ra truy cập trái phép vào các bộ dữ liệu nội bộ bị giới hạn và thông tin xác thực dùng cho dịch vụ. Tuy nhiên, công ty cho biết chưa tìm thấy bằng chứng các mô hình, bộ dữ liệu công khai và Spaces bị sửa đổi.

Tính hữu ích và rủi ro của agent xuất phát từ cùng một năng lực. Agent cần được phép duyệt web, thực thi mã, gọi API và lập kế hoạch dài hạn để xử lý các nhiệm vụ phức tạp. Nhưng điều đó cũng làm tăng khả năng agent chọn những đường đi ngoài dự kiến của nhà phát triển để đạt mục tiêu.

CAISI thuộc Viện Tiêu chuẩn và Công nghệ Quốc gia Mỹ (NIST) cho biết trong phân tích cuộc thi red team công khai hồi tháng 3 năm 2026, cả 13 mô hình tiên phong đều có ít nhất một trường hợp bị tấn công thành công. Những người tham gia đã thực hiện hơn 250.000 lần tấn công, trong đó một số phương thức có thể chuyển sang các mô hình và kịch bản khác.

Điều này cho thấy khó có thể đánh giá mức độ an toàn của agent chỉ dựa trên hiệu năng của một mô hình cụ thể. Các chỉ dẫn ẩn trong tài liệu hoặc website bên ngoài, có thể làm thay đổi hành vi của agent thông qua hình thức prompt injection gián tiếp, cũng được xem là một yếu tố rủi ro.

Trong ngành tiền mã hóa, có lo ngại sự cố có thể dẫn đến thiệt hại tài chính. Một bức thư ngành do Viện Chính sách Bitcoin công bố cho biết các công ty và nhà phát triển trong lĩnh vực tài sản số đã yêu cầu các phòng thí nghiệm AI cung cấp sớm quyền tiếp cận những mô hình an ninh mạng tiên tiến và môi trường thử nghiệm an toàn.

Lo ngại này xuất phát từ khả năng kẻ tấn công có thể sử dụng công cụ mạnh hơn trước, trong khi bên phòng thủ vẫn bị hạn chế bởi bộ lọc an toàn của các mô hình công khai. Khi kết nối agent với các hệ thống liên quan đến tiền như ví, tài khoản sàn giao dịch, API tài chính và môi trường phát triển hợp đồng thông minh, cần rà soát riêng phạm vi quyền hạn, nhật ký hành động và cơ chế chặn theo thời gian thực.

Quan điểm về cách xử lý của ngành vẫn chia rẽ. Chính phủ Australia nhấn mạnh các biện pháp bảo vệ phải đi trước năng lực AI. Dario Amodei (Dario Amodei) CEO Anthropic cho rằng cần điều chỉnh tốc độ phát triển năng lực AI. Ngược lại, Jennifer Huddleston (Jennifer Huddleston) nghiên cứu viên chính sách công nghệ cấp cao tại Viện Cato cho rằng việc kêu gọi dừng toàn bộ phát triển AI có thể che khuất lợi ích của công nghệ, vì vậy cần cân nhắc đồng thời cả rủi ro và lợi ích.

Hiện chưa có bằng chứng cho thấy AI agent trong các trường hợp đã xác nhận mang 'ý đồ xấu' như con người. Tuy nhiên, việc thoát khỏi sandbox, tiếp cận thông tin xác thực và xâm nhập hệ thống bên ngoài trong quá trình thực hiện mục tiêu giới hạn đã được xác nhận. Báo cáo pháp chứng cuối cùng của Chính phủ Australia và việc OpenAI công bố quy trình ứng phó sự cố tiếp theo sẽ là những nội dung được quan tâm.