120 tổ chức lập liên minh bảo mật AI cùng Nvidia(NVDA)

Liên minh Open Secure AI Alliance (OSAA) do Nvidia(NVDA) dẫn dắt đã thu hút khoảng 120 doanh nghiệp và tổ chức tham gia chỉ hơn một tuần sau khi ra mắt. Đây là liên minh hướng tới xây dựng các công cụ mã nguồn mở, giúp đội ngũ phòng thủ tự kiểm chứng và kiểm soát khi ứng dụng AI agent vào công tác bảo mật.

Nvidia(NVDA) công bố ra mắt OSAA trên blog chính thức ngày 27 tháng 7, cho biết mục tiêu là đảm bảo đội ngũ phòng thủ có được các công cụ biên (frontier) mã nguồn mở mà họ có thể tin tưởng và kiểm soát. Danh sách công khai gồm Adobe, Amazon(AMZN), Cisco, Cloudflare, CrowdStrike, Hugging Face, IBM, Intel, Linux Foundation, Microsoft(MSFT), NAVER, Palantir, Red Hat, SK Telecom, Visa và nhiều cái tên khác.

OSAA được xây dựng dựa trên sáng kiến Akrites của Linux Foundation và các hoạt động của cộng đồng OpenSSF. Nvidia(NVDA) không giới hạn khái niệm bảo mật AI ở việc công khai trọng số mô hình, mà xem đây là vấn đề của toàn bộ ngăn xếp agent, bao gồm xác thực danh tính, phân quyền, môi trường thực thi, rào chắn an toàn, nhật ký và hệ thống đánh giá.

Trong bài blog ngày 27 tháng 7, Nvidia(NVDA) dẫn kinh nghiệm xử lý sự cố bảo mật của Hugging Face làm ví dụ cho thấy sự cần thiết của công cụ AI mã nguồn mở. Khi phân tích pháp y bằng công cụ AI dạng đóng bị chặn một số yêu cầu, Hugging Face đã chạy mô hình trọng số mở GLM-5.2 trên hạ tầng riêng để phân tích hơn 17.000 hành vi. Nvidia(NVDA) coi đây là trường hợp cho thấy cần có công cụ AI mở mà đội ngũ bảo mật có thể trực tiếp kiểm tra, chỉnh sửa và vận hành.

Các thành viên cũng giới thiệu một số công cụ bảo mật cụ thể. Nvidia(NVDA) công bố NOOA, công cụ dùng để thử nghiệm, theo dõi và kiểm toán hành vi của AI agent. Microsoft(MSFT) giới thiệu MDASH, hệ thống quét đa mô hình để tìm lỗ hổng bảo mật. Hugging Face đóng góp định dạng lưu trữ trọng số mô hình Safetensors cho PyTorch Foundation, trong khi IBM và Red Hat ra mắt công cụ bảo mật chuỗi cung ứng mã nguồn mở Lightwell.

OpenAI, Anthropic và Google không có tên trong danh sách thành viên mà Nvidia(NVDA) công bố. Wired nhận định đây là dấu hiệu cho thấy sự căng thẳng giữa phe bảo mật AI mã nguồn mở và các công ty phát triển mô hình biên dạng đóng. Tuy nhiên, lý do các công ty này chưa tham gia cũng như khả năng gia nhập trong tương lai hiện chưa được xác nhận.

Danh sách OSAA còn có sự góp mặt của hãng ví cứng Ledger và NEAR AI. Việc kiểm soát quyền hạn của AI agent và ứng phó lỗ hổng chuỗi cung ứng có thể áp dụng cho bảo mật hợp đồng thông minh, ví và hạ tầng giao dịch, nhưng liên minh chưa công bố tiêu chuẩn bảo mật blockchain hay quy trình ứng phó sự cố tiền mã hóa cụ thể nào.

TokenPost trước đó đã đưa tin OSAA đề xuất hướng dẫn SAFE nhằm cùng phân tích và chia sẻ các sự cố bảo mật AI. Hiệu quả thực sự của liên minh sẽ phụ thuộc vào việc các công cụ mở như NOOA, MDASH, Safetensors và Lightwell có được đội ngũ bảo mật thực tế áp dụng vào quy trình phân tích sự cố, công bố lỗ hổng và kiểm soát quyền hạn hay không.