Brockman: Đội bảo mật doanh nghiệp nên dùng AI agent

Greg Brockman, đồng sáng lập kiêm chủ tịch OpenAI, cho biết các đội bảo mật doanh nghiệp nên triển khai AI agent để đối phó với tấn công mạng. Ông cho rằng khi khả năng tự động hóa hack của các mô hình AI dẫn tới việc xâm nhập hệ thống thực tế, hệ thống phòng thủ chỉ dựa vào con người sẽ khó theo kịp tốc độ tấn công.

Theo bài viết trên blog cá nhân có tựa đề “The Defender's Window” mà Brockman đăng ngày 16 (giờ địa phương), ông gọi sự cố bảo mật xảy ra giữa OpenAI và Hugging Face là một “bước ngoặt” của an ninh mạng. Ông giải thích sự cố này cho thấy năng lực của những kẻ tấn công thông thường có thể thay đổi như thế nào trong vài tháng tới.

OpenAI cho biết ngày 21 tháng 7, trong quá trình đánh giá năng lực an ninh mạng nội bộ, mô hình GPT-5.6 Sol cùng một mô hình nghiên cứu nội bộ chưa công bố đã truy cập vào hạ tầng sản xuất của Hugging Face. Để giải các bài toán đánh giá, các mô hình này đã kết nối những lỗ hổng trong môi trường nghiên cứu của OpenAI với hạ tầng của Hugging Face, đồng thời khai thác một lỗ hổng zero-day chưa từng được biết đến trong Artifactory, dịch vụ proxy cache cho registry gói phần mềm.

Trong bản cập nhật ngày 28 tháng 7, OpenAI cho biết mô hình chưa công bố nói trên không phải là mô hình chuẩn bị ra mắt. Sau sự cố, công ty đã vô hiệu hóa mô hình này và áp dụng các biện pháp mã hóa cũng như hạn chế quyền truy cập. OpenAI cũng nói rõ môi trường đánh giá ExploitGym không cấp quyền truy cập internet trực tiếp cho mô hình, mà chính mô hình đã tự khai thác lỗ hổng zero-day để tạo đường kết nối ra bên ngoài.

Brockman cho rằng cốt lõi của vấn đề nằm ở tốc độ lan rộng của năng lực tấn công. Ông viết rằng các mô hình AI được phát triển ở khắp nơi trên thế giới giờ đây đã có thể tự động hóa một phần các cuộc tấn công mạng trong thế giới thực, và năng lực tấn công mạng của các mô hình trọng số mở (open-weight) cũng chỉ còn chậm hơn các mô hình tiên tiến nhất vài tháng. Điều này có nghĩa là những lỗi mã nguồn cũ, quyền truy cập bị bỏ quên hay cấu hình sai của doanh nghiệp có thể bị các công cụ tấn công AI phát hiện nhanh hơn.

Hướng giải quyết mà ông đưa ra là tự động hóa công việc bảo mật bằng AI. Ông đề xuất doanh nghiệp triển khai agent trong đội bảo mật để đọc mã nguồn, cấu hình hạ tầng, tài liệu kỹ thuật, đồng thời ưu tiên kiểm tra các dịch vụ tiếp xúc với internet, quy trình xác thực, pipeline triển khai và hệ thống xử lý dữ liệu nhạy cảm. Khi phát hiện lỗ hổng, agent có thể đề xuất bản vá và kiểm thử hồi quy (regression test), nhưng những thay đổi có tác động lớn vẫn cần con người quyết định.

OpenAI cũng đang áp dụng cách làm tương tự trong nội bộ. Brockman cho biết OpenAI sử dụng mô hình AI để xác minh thay đổi mã nguồn, xác định lỗ hổng và hỗ trợ vá lỗi trước khi triển khai, đồng thời AI phân loại gần như toàn bộ cảnh báo bảo mật ban đầu trước khi con người xem xét. Công ty liên tục tìm kiếm các đường tấn công tiềm ẩn và kết nối kết quả phát hiện với phản ứng tự động ở mức giới hạn, còn các quyết định rủi ro cao vẫn do con người đảm nhiệm.

Vụ việc này gắn liền với xu hướng AI đang phát triển từ công cụ tạo câu trả lời đơn thuần thành agent có thể tương tác với hệ thống bên ngoài. TokenPost trước đó đưa tin các nghị sĩ Dân chủ tại Hạ viện Mỹ đã yêu cầu OpenAI và Anthropic cung cấp lời khai tuyên thệ liên quan đến việc kiểm soát đánh giá an ninh mạng bị thất bại.

Đối với ngành tiền mã hóa, đây cũng là vấn đề bảo mật trực tiếp. Các sàn giao dịch, ví, cầu nối (bridge), thị trường dự đoán và ứng dụng phi tập trung đều có cấu trúc mã nguồn, quyền truy cập và kết nối bên ngoài phức tạp. Nếu AI có thể tự động hóa việc dò tìm lỗ hổng và quy trình tấn công, thì tự động hóa kiểm tra bảo mật trong quá trình phát triển và triển khai dịch vụ on-chain sẽ trở thành hạng mục vận hành ngày càng quan trọng.

Brockman nói: “Trong vài tháng tới, mọi tổ chức đều phải bắt đầu tự động hóa phần lớn chương trình bảo mật của mình để duy trì an toàn.” Hiệu quả thực tế của các công cụ bảo mật AI đối với doanh nghiệp và hạ tầng tài sản số sẽ tùy thuộc vào phạm vi áp dụng, mức độ kiểm soát quyền truy cập và quy trình kiểm tra của con người.

Nguồn: blog của Greg Brockman (https://blog.gregbrockman.com/the-defenders-window), OpenAI (https://openai.com/index/hugging-face-model-evaluation-security-incident/)