GPU cloud đạt 323 nhà cung cấp, tăng từ 209 trong 8 tháng

Doanh nghiệp có thêm nhiều lựa chọn để thuê GPU của NVIDIA, từ các dịch vụ GPU cloud chuyên biệt và hợp đồng trực tiếp đến trung tâm dữ liệu tự vận hành. Số nhà cung cấp GPU cloud tăng từ 209 lên 323 trong 8 tháng, nhưng con số này không cho biết lượng GPU thực tế có thể thuê.

SemiAnalysis công bố số liệu 323 nhà cung cấp trong bản tóm tắt ClusterMAX 3.0 ngày 23 tháng 9. Đây là mức tăng so với lần thống kê trước là 209. Báo cáo đầy đủ yêu cầu thuê bao trả phí; bản tóm tắt công khai không nêu danh sách từng nhà cung cấp hay phương pháp tính tổng.

Doanh nghiệp có thể xem xét trước các nhà cung cấp lớn như Amazon Web Services (AWS), Microsoft Azure và Google Cloud. Những dịch vụ này đi kèm hệ thống vận hành và bảo mật dành cho doanh nghiệp. CNBC đã đưa tin về những trường hợp khó có đủ GPU cần thiết đúng thời điểm từ các nhà cung cấp cloud lớn, cũng như sự nổi lên của GPU cloud chuyên biệt như một lựa chọn thay thế.

CoreWeave và Nebius là các nhà cung cấp neocloud tập trung vào cho thuê năng lực tính toán GPU. CNBC đưa tin công ty phát triển AI agent Modal sử dụng nhiều neocloud. CEO Modal Eric Bernhardsson cho biết công ty khó có thể đáp ứng nhu cầu GPU ở quy mô hoạt động chỉ bằng các nhà cung cấp cloud lớn truyền thống.

Neocloud cũng không phải lúc nào bảo đảm có GPU để sử dụng ngay. CNBC cho biết GPU từ một số nhà cung cấp lớn có thể chỉ đi vào hoạt động sau nhiều tháng kể từ khi ký hợp đồng và xây dựng trung tâm dữ liệu. CEO CoreWeave Mike Intrator cũng nói trong buổi công bố kết quả kinh doanh tháng 8 rằng năng lực cung ứng trong ngắn hạn gần như đã được đặt hết.

Doanh nghiệp còn có thể cân nhắc các nhà cung cấp chuyên biệt nhỏ hơn, ký hợp đồng để khách hàng sở hữu GPU rồi cung cấp chúng cho đơn vị vận hành cloud, hoặc tự xây trung tâm dữ liệu. Tự sở hữu GPU có thể giảm gánh nặng đầu tư thiết bị cho nhà cung cấp cloud, nhưng doanh nghiệp phải tự lo nguồn điện, mặt bằng trung tâm dữ liệu và nhân sự vận hành. Tự xây dựng giúp tăng quyền kiểm soát, đồng thời khiến doanh nghiệp chịu trách nhiệm vận hành cơ sở vật chất.

Chi phí và thời điểm cung ứng của từng phương án thay đổi tùy hợp đồng và khu vực. Chỉ dựa vào số lượng nhà cung cấp thì khó so sánh liệu doanh nghiệp có thể thuê GPU đúng lúc cần hay không, cũng như điều kiện hợp đồng thực tế.

Chỉ số giá thuê cũng là một trong những dữ liệu để theo dõi tình hình nguồn cung. Ornn công bố ngày 9 tháng 10 rằng chỉ số giá thuê NVIDIA B200 ở mức 7,46 USD mỗi GPU-giờ (khoảng 10.000 đồng). Đây là mức trung bình gia quyền theo giá giao dịch, không phải giá niêm yết của từng nhà cung cấp.

Theo chỉ số của Ornn, giá thuê B200 tăng 9,4% trong 30 ngày nhưng giảm 5,6% trong 7 ngày. Hướng biến động khác nhau tùy khoảng thời gian, nên khó kết luận xu hướng giá thuê chỉ từ một số liệu tại một thời điểm. Ornn công bố chỉ số giá thuê B200 dựa trên giao dịch.

Các kênh tiếp cận GPU đã tăng lên, nhưng chỉ riêng số nhà cung cấp tăng không đủ để khẳng định nguồn cung lớn hơn hay cạnh tranh về giá được cải thiện. Số liệu công khai của SemiAnalysis thống kê nhà cung cấp, không cho biết công suất khả dụng và điều kiện hợp đồng của từng đơn vị.