NVIDIA(NVDA) ra mắt container AI tích hợp 7 rack Vera Rubin, rút thời gian vận hành xuống 14 ngày

NVIDIA($NVDA) ngày 21/10 (giờ địa phương) ra mắt "DSX Pod AI Factory" - sản phẩm đóng gói 7 rack AI Vera Rubin (Vera Rubin) vào một khối có kích thước tương đương container vận chuyển và có thể chở bằng xe tải. Công ty cho biết sản phẩm mới có thể rút ngắn thời gian từ khi lắp đặt trung tâm dữ liệu AI đến khi bắt đầu xử lý token và đưa vào vận hành dịch vụ, từ 6 tháng xuống còn 14 ngày.

NVIDIA cho biết sản phẩm có kích thước tương đương container vận chuyển tiêu chuẩn, nặng khoảng 28.000kg (gần 62.000 pound). Sản phẩm được thiết kế để vận chuyển bằng xe tải trên các tuyến đường bộ thông thường. Theo CNBC, toàn bộ hệ thống dây điện và thiết bị làm mát bằng chất lỏng đều đã được lắp ráp sẵn tại nhà máy trước khi xuất hàng.

NVIDIA giới thiệu sản phẩm này hướng đến khách hàng toàn cầu, đồng thời cho biết sản phẩm có thể giúp giải quyết những thách thức mà khách hàng tại châu Âu đang gặp phải trong quá trình triển khai hạ tầng. Cùng ngày, tại bài phát biểu khai mạc sự kiện GTC tổ chức ở Berlin (Đức), CEO Jensen Huang (Jensen Huang) của NVIDIA đã trình diễn module máy tính Vera Rubin.

Ian Buck (Ian Buck), Phó chủ tịch mảng Hyperscale Computing của NVIDIA, cho biết trong buổi họp báo với giới truyền thông rằng công việc cần thực hiện tại hiện trường rất đơn giản. Ông nói: "Khi đến hiện trường, việc cần làm chỉ là đặt vào vị trí đã định, kết nối với các container khác, rồi tiến hành kiểm tra và thử nghiệm lần cuối." Phát biểu này cho thấy NVIDIA muốn nhấn mạnh khả năng lắp đặt nhanh của sản phẩm mới.

Từ rack sang container, quy mô cung ứng ngày càng lớn

CNBC nhận định sản phẩm mới là bước tiếp theo trong quá trình NVIDIA mở rộng phạm vi kinh doanh sang cấp độ hệ thống. Từ một công ty chip, NVIDIA hiện cung cấp cho khách hàng cả thiết bị mạng, lưu trữ và nhiều hạ tầng khác cần cho trung tâm dữ liệu. Hệ thống AI của công ty cũng mở rộng dần qua từng giai đoạn: từ một chip GPU đơn lẻ, lên server tích hợp 4 hoặc 8 GPU, rồi đến cả một rack hoàn chỉnh, và giờ là DSX Pod dạng container - đơn vị tích hợp sẵn nhiều rack cùng lúc.

CEO Jensen Huang chia sẻ trong một podcast gần đây rằng quy mô cung ứng của NVIDIA tính theo mỗi gigawatt (GW) đã thay đổi đáng kể. Ông nói: "Quy mô cung ứng của chúng tôi cho mỗi gigawatt đã tăng từ khoảng 18 tỷ USD, lên mức 20 tỷ USD, và hiện đã vượt 40 tỷ USD." Gigawatt là đơn vị thể hiện quy mô hạ tầng trung tâm dữ liệu theo công suất tiêu thụ điện. Nói cách khác, với cùng một quy mô công suất điện, giá trị thiết bị mà NVIDIA cung cấp cho mỗi trung tâm dữ liệu đã tăng lên đáng kể.

Chưa công bố giá, đối tác sản xuất đảm nhận xuất hàng

NVIDIA không công bố giá bán của hệ thống. Các nhà phân tích ước tính mỗi rack Vera Rubin có thể có giá vượt 7 triệu USD.

DSX Pod không phải là sản phẩm hoàn chỉnh do NVIDIA trực tiếp bán ra, mà là một thiết kế tham chiếu (reference design) được xuất hàng thông qua các đối tác sản xuất. NVIDIA cho biết đang hợp tác với Foxconn, Gigabyte, Lenovo, HPE, Quanta và Pegatron để sản xuất sản phẩm này.

Những thông tin về Vera Rubin trước đó

Cũng trong ngày 21/10, Google Cloud và NVIDIA thông báo hạ tầng Vera Rubin đã có thể được sử dụng đầy đủ. Thông báo này chưa tiết lộ chi tiết về cấu hình instance hay mức giá cụ thể. Trước đó, vào ngày 16/3, NVIDIA cũng cho biết 7 loại chip cấu thành nền tảng Vera Rubin đã bước vào giai đoạn sản xuất.

NVIDIA cho biết dự kiến sẽ bắt đầu giao hàng DSX Pod từ đầu năm 2027.