Hệ thống Vera Rubin NVL72 của NVIDIA($NVDA) đã được đưa vào xử lý các tác vụ AI trong môi trường sản xuất trên nền tảng đám mây của CoreWeave($CRWV). Cognition được giới thiệu là khách hàng đầu tiên thực hiện tác vụ AI tác nhân trong môi trường sản xuất trên hệ thống này.
CoreWeave cho biết trên blog chính thức rằng công ty đã bắt đầu cung cấp Vera Rubin NVL72 với số lượng giới hạn, đồng thời đưa các tác vụ của khách hàng vào môi trường sản xuất dựa trên GPU Rubin được triển khai tại nhiều khu vực. Trong tác vụ suy luận SWE-2 của Cognition, tổng thông lượng xử lý token đạt tối đa 4,8 lần so với GB200 NVL72.
Vera Rubin NVL72 là nền tảng kết hợp 72 GPU Rubin và 36 CPU Vera trong một hệ thống dạng rack. CoreWeave cho biết Cognition đã bắt đầu thực hiện tác vụ sản xuất chỉ vài ngày sau khi tiếp nhận rack mà không cần triển khai tùy chỉnh riêng.
Bình luận 0