Nvidia(NVDA) vừa công bố giải pháp triển khai 'Confidential Bare Metal', cho phép các nhà phát triển mô hình nền tảng (frontier model) chạy các tác vụ nhạy cảm trên hạ tầng chuyên dụng của bên thứ ba mà vẫn giữ được quyền kiểm soát đối với mô hình và dữ liệu của mình.
Theo Cailian Press (财联社) đưa tin ngày 21 (giờ địa phương), giải pháp này bảo vệ mô hình và dữ liệu trong suốt quá trình xử lý nhờ cơ chế cách ly ở cấp độ phần cứng, xác minh bằng mã hóa và hạn chế quyền truy cập.
Phạm vi hỗ trợ điện toán bảo mật (confidential computing) của Nvidia cũng được mở rộng. Các hệ thống được áp dụng gồm Grace Blackwell NVL72, HGX Rubin NVL8 và DGX Rubin NVL8, đồng thời tính năng này sẽ được tích hợp vào hệ điều hành DSX OS.
Kế hoạch triển khai từ phía các doanh nghiệp điện toán đám mây và dịch vụ AI cũng đã được công bố. Google Cloud dự kiến hỗ trợ giải pháp này trên các instance A4X Max được trang bị hệ thống Nvidia GB300 NVL72. Cohere cho biết sẽ tích hợp giải pháp này vào Cohere Model Vault của công ty.
Vấn đề quyền kiểm soát mô hình và dữ liệu cũng từng được Nvidia đề cập trước đó cùng với chi phí và hạ tầng, trong bối cảnh thảo luận về việc các startup nên lựa chọn mô hình mở hay mô hình đóng.
Bình luận 0