99,5% chi tiêu AI tập trung ở 10% khách hàng hàng đầu

Phần lớn chi tiêu cho hạ tầng AI đang tập trung vào một nhóm nhỏ khách hàng. 10% khách hàng hàng đầu chiếm 99,5% chi tiêu cho dịch vụ model serving và 99% chi tiêu cho các nền tảng neocloud.

Torsten Slok (Torsten Slok), đối tác kiêm chuyên gia kinh tế trưởng tại Apollo, công bố kết quả này trong một phân tích của Apollo ngày 24, dựa trên dữ liệu từ Ramp. Số doanh nghiệp sử dụng AI đang tăng, nhưng chi tiêu cho hạ tầng quy mô lớn chưa mở rộng với tốc độ tương ứng.

Trong số các doanh nghiệp chi cho phần mềm trên Ramp, khoảng 10% sử dụng nhà cung cấp GPU, tăng từ mức dưới 4% hai năm trước.

Tỷ lệ doanh nghiệp sử dụng dịch vụ model serving và suy luận tăng từ 2,4% lên 8,7% trong cùng giai đoạn. Tỷ lệ sử dụng neocloud cũng tăng từ 2,0% lên 3,3%. Trong khi đó, tỷ lệ doanh nghiệp sử dụng công suất GPU bán buôn chỉ ở mức 0,1%.

Khoảng cách giữa số lượng doanh nghiệp sử dụng và quy mô chi tiêu là rất lớn. 10% khách hàng hàng đầu chiếm 99,5% chi tiêu cho model serving, còn 90% khách hàng còn lại chỉ chiếm 0,5%. Với neocloud, nhóm 10% khách hàng hàng đầu chiếm 99% chi tiêu và nhóm 90% còn lại chiếm 1%.

Để so sánh, 10% khách hàng hàng đầu chiếm 91,8% chi tiêu của các dịch vụ SaaS không liên quan đến AI và 84,2% chi tiêu cho CRM. Apollo đánh giá chi tiêu cho hạ tầng AI có cấu trúc tập trung hơn so với phần mềm doanh nghiệp thông thường.

Chi tiêu cho hạ tầng AI có thể phụ thuộc nhiều hơn vào khối lượng chạy mô hình thực tế thay vì số lượng nhân sự của doanh nghiệp. Điều này có nghĩa là ngay cả khi số doanh nghiệp tăng, tổng chi tiêu vẫn có thể tập trung vào một số ít công ty nếu chỉ một nhóm khách hàng thực hiện các tác vụ suy luận quy mô lớn.

Ramp AI Index tổng hợp chi tiêu liên quan đến AI của các doanh nghiệp tại Mỹ bằng dữ liệu thẻ doanh nghiệp, hóa đơn và thanh toán ACH trên Ramp. Mẫu dữ liệu bao gồm hơn 70.000 doanh nghiệp Mỹ.

Tuy nhiên, việc sử dụng các công cụ miễn phí hoặc tài khoản cá nhân của nhân viên có thể không được ghi nhận. Vì vậy, các mức 99,5% và 99% phản ánh mức độ tập trung của khoản chi liên quan được quan sát trong mẫu dữ liệu của Ramp, không phải doanh thu của toàn bộ ngành AI.

Ramp cho biết tính đến tháng 6, các doanh nghiệp sử dụng nền tảng model serving chiếm 5,8% số doanh nghiệp có chi tiêu cho AI. Mức chi tiêu AI hằng tháng trung vị trên mỗi nhân viên của nhóm này là 248 USD (khoảng 340.000 đồng), cao hơn khoảng 23 lần so với mức trung vị 10,59 USD (khoảng 14.000 đồng) của toàn bộ nhóm doanh nghiệp có chi tiêu cho AI.

Con số này có thể được tính theo tiêu chí khác với tỷ lệ 8,7% doanh nghiệp sử dụng model serving được nêu trước đó. Do đó, cần phân biệt mẫu dữ liệu và tiêu chí mà Ramp sử dụng trong từng phân tích thay vì đơn giản xem đây là sự thay đổi của cùng một nhóm đối tượng.

Doanh nghiệp có thể sử dụng dịch vụ gọi mô hình và dịch vụ thuê bao thay vì sở hữu GPU hoặc đặt trước công suất trong thời gian dài. Cách thức này làm giảm gánh nặng đầu tư ban đầu, nhưng cũng cho phép khách hàng nhanh chóng tăng hoặc giảm chi tiêu tùy theo nhu cầu.

Vì vậy, cần xác minh riêng liệu mức tăng chi tiêu của các công ty hạ tầng AI có đồng nghĩa với việc mở rộng cơ sở khách hàng hay không. Nếu mức sử dụng của một số khách hàng lớn giảm hoặc hợp đồng bị hủy, tổng chi tiêu và nhu cầu hạ tầng có thể cùng thay đổi.

Một phân tích cho thấy 1% khách hàng hàng đầu của Anthropic tạo ra 46% tổng doanh thu cũng từng được giới thiệu như một ví dụ về mức độ tập trung khách hàng của các công ty AI. Tuy nhiên, con số này được tính trên tổng doanh thu nên không thể so sánh trực tiếp với mức độ tập trung chi tiêu hạ tầng trong dữ liệu Ramp lần này.

Trên mạng xã hội, một số ý kiến cho rằng việc doanh nghiệp bổ sung tính năng AI vào sản phẩm hiện có khác với việc trực tiếp vận hành hạ tầng suy luận quy mô lớn. Tuy nhiên, đây là ý kiến của người dùng cá nhân và không thể xem là nhận định đại diện cho toàn bộ thị trường.

Apollo nhận định trong phân tích công bố ngày 24 rằng hạ tầng AI có thể tiếp tục phụ thuộc vào một số ít khách hàng có quy mô chi tiêu lớn. Apollo đồng thời nhấn mạnh đây là đánh giá tại thời điểm phân tích và không đảm bảo xu hướng này sẽ tiếp diễn.