Giá token LLM giảm 52%, giá thuê GPU vẫn tăng

Chỉ số LLM Token Index đã giảm 52% so với đỉnh, trong khi giá thuê GPU tăng, cho thấy chưa thể kết luận nhu cầu trí tuệ nhân tạo (AI) đang chậm lại chỉ dựa trên giá token.

Silicon Data cho biết ngày 24 rằng LLM Token Index đã giảm từ 2,07 USD ngày 28 tháng 5 xuống 1 USD ngày 21 tháng 9. Chỉ số này là mức giá được tính theo trọng số sử dụng, dựa trên số tiền người dùng API thực tế trả để xử lý 1 triệu token.

LLM Token Index không trực tiếp đo lượng token sử dụng hoặc tổng chi tiêu cho các dịch vụ AI. Vì vậy, khó đánh giá lượng sử dụng mô hình hay khả năng sinh lời của ngành AI chỉ từ biến động giá.

Silicon Data cũng cho biết chỉ số này đã tăng 67% từ đầu năm đến đỉnh tháng 5. Nếu chỉ nhìn vào đợt giảm gần đây, thị trường có vẻ suy yếu, nhưng diễn biến giá từ đầu năm cho thấy cả chiều tăng và giảm.

Đợt giảm gần đây được phân tích là kết quả của việc nhiều tác vụ chuyển sang các mô hình rẻ hơn và nhanh hơn. Việc các phòng thí nghiệm AI liên tiếp ra mắt những mô hình tầm trung cũng làm tăng số lựa chọn dành cho người dùng.

Giá token không phản ánh đầy đủ cả hiệu năng mô hình lẫn mục đích sử dụng. Silicon Data giải thích rằng chỉ số này không thể phân biệt việc thay đổi mô hình với việc phân bổ tác vụ cho các tác nhân AI hiệu quả hơn.

Cùng một mức giảm giá có thể mang ý nghĩa khác nhau, tùy thuộc vào việc lượng sử dụng giảm hay nhu cầu chuyển sang các mô hình rẻ hơn. Do đó, cần xem riêng đơn giá token và tổng lượng token sử dụng.

Trong khi đó, giá thuê GPU lại tăng. Giá thuê H200 tại các nhà cung cấp đám mây không thuộc nhóm siêu quy mô đã tăng từ mức trung bình 2,87 USD/giờ (khoảng 3.918 won) trong tháng 6 lên 3,29 USD/giờ (khoảng 4.491 won) tính đến ngày 24.

Giá thuê H200 tăng lên 3,32 USD/giờ (khoảng 4.532 won) vào ngày 19 tháng 9. Dù đây là mức giá tại một thời điểm cụ thể, so với mức trung bình tháng 6, xu hướng tăng giá thuê đã được ghi nhận.

Giá thuê B200 đạt 5,76 USD/giờ (khoảng 7.862 won) tính đến ngày 24, tăng 7% so với cùng kỳ. So với đầu năm, mức tăng là 31%.

Giá thuê B300, ra mắt vào cuối tháng 4, cũng tăng 44% sau đó. Giá thuê H200, B200 và B300 đều tăng, cho thấy giá token và giá tài nguyên tính toán có thể không vận động cùng chiều.

Chỉ số của Silicon Data cho thấy diễn biến giá của tài nguyên tính toán cần thiết để vận hành các mô hình AI. Giá token và giá thuê GPU được tập hợp thành các chỉ số riêng, giúp phân biệt chi phí sử dụng dịch vụ với chi phí tài nguyên tính toán.

TokenPost trước đó đưa tin tốc độ tăng chi tiêu cho token có thể thấp hơn tốc độ tăng lượng sử dụng dù nhu cầu gọi mô hình AI tăng. Khi đơn giá trung bình giảm, tổng chi tiêu có thể không tăng cùng tỷ lệ với số lần gọi mô hình.

Trong phân tích đăng ngày 24, Silicon Data dự báo rằng nếu các tác nhân AI được sử dụng trên quy mô lớn, tỷ trọng token do các mô hình rẻ và nhanh xử lý có thể tăng. Khi đó, giá token có thể giảm nhưng tổng lượng token sử dụng vẫn tăng mạnh.

Trong cùng phân tích ngày 24, Silicon Data cho rằng các tác vụ có giá trị gia tăng cao vẫn có thể tập trung ở những mô hình tiên tiến nhất.

Silicon Data cũng giải thích trong phân tích đăng ngày 24 rằng khi AI được phổ biến rộng rãi, nhu cầu tính toán có khả năng tăng thay vì giảm.

Tuy nhiên, không thể xác định quy mô tổng thể của nhu cầu AI chỉ từ việc giá thuê GPU tăng. Các chỉ số lần này phản ánh biến động của một số GPU và giá token cụ thể, chứ không trực tiếp thống kê lượng sử dụng thực tế hoặc chi tiêu của từng doanh nghiệp.