NVIDIA(NVDA) ra mắt kiến trúc cách ly AI agent lệch hướng trong vài milli giây

NVIDIA(NVDA) vừa giới thiệu "kiến trúc tham chiếu NVIDIA OpenShell" dùng để xây dựng, vận hành, giám sát và giới hạn các AI agent trong hạ tầng doanh nghiệp và hệ thống biên (edge). Kiến trúc này tập trung vào việc cách ly và dừng ngay ở cấp phần cứng khi agent vượt ra ngoài ranh giới phần mềm đã định.

Kiến trúc này dựa trên nền tảng runtime bảo mật OpenShell, kết hợp Vera Rubin, Vera CPU và DPU BlueField-4. Theo Odaily, mục tiêu là tăng cường cơ chế quản trị (governance), cách ly và kiểm soát an ninh. Trước đó, NVIDIA đã công bố nền tảng kiểm soát agent kết hợp OpenShell với thiết kế giám sát dựa trên phần cứng Sentry.

Vai trò của từng thành phần được phân chia rõ ràng. Vera Rubin đảm nhận suy luận mô hình (model inference), còn Vera CPU thực thi harness của agent và các lệnh gọi công cụ (tool call). Harness agent là khung vận hành để chạy agent, còn tool call là hành động agent gọi các công cụ hoặc chức năng bên ngoài.

Thành phần then chốt là BlueField-4. Thông qua NVIDIA Sentry, BlueField-4 liên tục giám sát hành vi của agent và thực thi các chính sách kiểm soát ở cấp phần cứng. Khi agent vượt ra ngoài ranh giới phần mềm đã định, Sentry có thể cách ly và dừng agent đó trong vài milli giây.

Việc giám sát và thực thi không do Vera CPU - nơi agent đang chạy - đảm nhận, mà do một DPU (bộ xử lý dữ liệu) BlueField-4 riêng biệt phụ trách. Đây là cấu trúc trong đó suy luận, vận hành agent và giám sát - kiểm soát được thực hiện ở các tầng phần cứng khác nhau.