SpaceXAI dùng CPU Vera của Nvidia(NVDA) mở rộng hạ tầng Grok

SpaceXAI sẽ trang bị CPU Vera (Vera) của Nvidia(NVDA) để vận hành các tác nhân AI (AI agent) thế hệ mới, trong đó GPU đảm nhận phần tính toán mô hình lớn còn CPU xử lý việc gọi công cụ, chạy mã, xử lý dữ liệu và mô phỏng.

Theo Nvidia đưa tin ngày 24 (giờ địa phương), SpaceXAI đang mở rộng hạ tầng AI phục vụ Grok sang nền tảng Vera Rubin (Vera Rubin). Nvidia cho biết thế hệ vệ tinh AI Starmind (Starmind) đầu tiên sẽ áp dụng hệ thống Vera Rubin NVL72 được tối ưu hóa riêng.

Thông báo này cho thấy cuộc đua hạ tầng AI đã bước sang giai đoạn không còn chỉ được đánh giá bằng số lượng GPU. Các tác nhân AI hiện nay không dừng ở việc tạo câu trả lời mà còn gọi công cụ bên ngoài, chạy mã và xử lý dữ liệu.

Trong quá trình này, các tác vụ diễn ra giữa những lần gọi mô hình sẽ tạo áp lực lên CPU. Nếu CPU xử lý chậm, GPU cũng phải chờ đến lượt tính toán tiếp theo, ảnh hưởng đến tốc độ xử lý tổng thể.

Vera là dòng CPU được Nvidia thiết kế riêng cho các tác vụ AI agent. Theo Nvidia, Vera tích hợp 88 nhân Olympus (Olympus) do hãng tự phát triển, công nghệ đa luồng không gian (Spatial Multithreading) của Nvidia và bộ nhớ LPDDR5X, cho băng thông bộ nhớ tối đa 1,2TB/s.

Nvidia cho biết Vera hoàn thành tác vụ nhanh hơn tối đa 1,8 lần so với CPU x86 trong các tác vụ AI agent, học tăng cường (reinforcement learning) và xử lý dữ liệu. Con số so sánh hiệu năng mà hãng đưa ra nhắm vào điểm nghẽn trong quá trình vận hành agent, hơn là bản thân phép tính mô hình lớn.

Ian Buck, Phó chủ tịch mảng siêu máy tính và điện toán hiệu năng cao (Hyperscale and HPC) của Nvidia, nói rằng “AI agent cần một hệ thống điện toán mới được thiết kế để hành động, chứ không chỉ tạo ra câu trả lời”. Ông cho biết Vera cung cấp hiệu năng CPU cần thiết để chạy mã, xử lý dữ liệu và điều phối các tác vụ phức tạp.

Mike Nicolls, Chủ tịch SpaceXAI, nói rằng “Vera giúp GPU tiếp tục làm tốt việc mà nó giỏi nhất, đồng thời cung cấp hiệu năng CPU và băng thông bộ nhớ cần thiết cho việc điều phối quy mô lớn, xử lý mã và dữ liệu”. Điều này cho thấy SpaceXAI đang bổ sung giải pháp gỡ nghẽn CPU song song với hạ tầng vốn tập trung vào GPU.

Vera Rubin là nền tảng hạ tầng AI thế hệ mới, gộp CPU, GPU và thiết bị mạng thành từng rack. TokenPost từng đưa tin hệ thống sản xuất Vera Rubin thế hệ mới của Nvidia đang chuyển sang giai đoạn triển khai thực tế tại các trung tâm dữ liệu.

Trung tâm dữ liệu AI thường cần điện năng, làm mát, bộ nhớ và cấu hình mạng phối hợp đồng bộ, chứ không chỉ phụ thuộc vào hiệu năng từng chip riêng lẻ. Dù GPU xử lý được phép tính mô hình, nếu việc di chuyển dữ liệu và điều phối tác vụ bị chậm thì hiệu suất toàn hệ thống vẫn giảm.

Kế hoạch điện toán không gian của Nvidia cũng nằm trong xu hướng này. Trong tài liệu riêng về điện toán không gian, Nvidia cho biết tải trọng điện toán (computing payload) của vệ tinh Starmind AI1 dựa trên nền tảng Vera Rubin NVL72.

Trang giới thiệu Starmind của SpaceXAI cho biết vệ tinh này có tải trọng điện toán tối đa 150kW, trung bình 120kW, và truyền dữ liệu qua mạng vệ tinh Starlink. TokenPost từng đưa tin về kế hoạch SpaceX và Nvidia hợp tác phát triển tải trọng điện toán AI dành cho vệ tinh.

Tại thị trường Việt Nam, thông tin này không phải là công bố hạ tầng tiền mã hóa trực tiếp. Tuy nhiên, xu hướng kết hợp trung tâm dữ liệu AI, chất bán dẫn, điện năng và mạng vệ tinh vẫn là thay đổi hạ tầng công nghệ mà giới đầu tư tài sản số cũng đang theo dõi.

Việc mở rộng hạ tầng Grok và kế hoạch điện toán trên quỹ đạo sẽ ảnh hưởng thế nào đến hiệu năng dịch vụ thực tế và cấu trúc chi phí vẫn cần được xác nhận trong quá trình triển khai hệ thống sắp tới.