NVIDIA (NVDA) đã đưa lên trang bán hàng bộ kit dành cho nhà phát triển điện toán hiệu năng cao (HPC), gồm 4 máy DGX Spark và 4 cáp kết nối. Đây là cấu hình cho phép kết nối nhiều máy với nhau, bên cạnh tùy chọn mua từng máy riêng lẻ.
Trang bán hàng chính thức của NVIDIA đặt tên sản phẩm là “DGX Spark HPC Developer Kit”. Trang này cho biết bộ kit gồm 4 máy DGX Spark và 4 cáp kết nối.
Mỗi máy được trang bị siêu chip GB10 Grace Blackwell, bộ nhớ hợp nhất 128 GB, ổ lưu trữ 4 TB và thiết bị mạng ConnectX-7. NVIDIA công bố thông số cho từng máy riêng lẻ.
Nếu cộng đơn giản bộ nhớ hợp nhất của 4 máy, tổng dung lượng là 512 GB. Con số này không có nghĩa là một máy được trang bị 512 GB bộ nhớ hợp nhất.
Bộ kit còn có hướng dẫn bắt đầu nhanh dành cho bộ phát triển HPC và quyền sử dụng miễn phí NVIDIA AI Enterprise trong 90 ngày. Bộ chuyển mạch mạng được liệt kê là yêu cầu tối thiểu, không phải thiết bị đi kèm.
Trang bán hàng hướng người mua liên hệ để hỏi giá bộ kit, thay vì công bố giá trọn bộ. Cùng trang này, một máy DGX Spark được bán với giá 6.950 USD (khoảng 9,28 triệu won), nhưng không thể dùng mức giá đó để tính giá của cả bộ kit.
Mỗi máy có hiệu năng tính toán AI được công bố là 1 petaflop theo chuẩn FP4. Đây là chỉ số tính toán AI FP4, không thể hiện tốc độ chạy chương trình tính toán khoa học hay thông lượng thực tế của toàn bộ bộ kit.
HPC là phương thức xử lý các phép tính phức tạp bằng nhiều tài nguyên tính toán. Hiệu năng phụ thuộc vào cách các máy trao đổi dữ liệu với nhau trong quá trình chạy chương trình, bên cạnh số lượng máy được kết nối.
Trong bài viết kỹ thuật công bố ngày 22 tháng 10, NVIDIA cho biết cấu hình nối 4 máy DGX Spark thành vòng, không dùng bộ chuyển mạch, có thể phù hợp với tác vụ suy luận trên một mô hình AI. Trong kiểu kết nối này, mỗi máy lần lượt được nối với các máy liền kề.
Trong thử nghiệm chạy mô hình Qwen3.8-27B với độ chính xác NVFP4, cấu hình vòng gồm 4 máy vật lý đạt thông lượng suy luận 32,82 token/giây. Một máy đạt 11,86 token/giây trong cùng thử nghiệm, nên cấu hình 4 máy có thông lượng cao gấp 2,77 lần.
Kết quả được đo với đầu vào 8.192 token, đầu ra 256 token và 1 yêu cầu đồng thời. Thử nghiệm không sử dụng giải mã suy đoán hay MTP; đây là số liệu của một mô hình và cấu hình chạy cụ thể.
NVIDIA cho biết các tác vụ HPC truyền thống cần giao tiếp trực tiếp giữa các máy đòi hỏi bộ chuyển mạch. Bài viết nêu rằng với những tác vụ giao tiếp điểm-điểm như phân cụm dựa trên MPI, kết nối vòng có thể bất lợi vì dữ liệu phải đi qua nhiều chặng.
Việc chia cụm thành nhiều nhóm hoặc mở rộng lên 8 máy cũng cần kết nối qua bộ chuyển mạch. Theo NVIDIA, chỉ dùng cấu hình vòng không thể tạo kiểu kết nối để chia cụm thành các nhóm máy độc lập.
Vì vậy, việc bộ kit có 4 cáp không đồng nghĩa mọi tác vụ tính toán khoa học đều có thể được xử lý theo cùng một cách. Trang bán hàng của NVIDIA nêu bộ chuyển mạch là yêu cầu tối thiểu; bài viết kỹ thuật cũng cho biết kiểu kết nối phù hợp tùy thuộc vào tác vụ.
Thử nghiệm kết nối 4 máy trong bài viết của NVIDIA đo hiệu năng suy luận của một mô hình AI cụ thể. Đây không phải kết quả thử nghiệm hiệu năng HPC của chính bộ kit được đăng trên trang bán hàng.
Trước đó, TokenPost đã đưa tin về kết quả chạy phân tán GLM-5.3 trên 2 máy GB300 DGX Station. Cấu hình đó khác với bộ kit DGX Spark lần này, nên không thể xem số liệu khi ấy là hiệu năng của bộ kit mới.
Comment 0