Mô hình có trọng số mở chiếm 56% tổng lượng token được xử lý trên Vercel AI Gateway trong tháng 8/2026, trong khi chỉ chiếm 14% tổng chi tiêu. Điều này cho thấy mức sử dụng và chi phí do các nhóm mô hình khác nhau dẫn dắt.
Vercel công bố số liệu trên trong báo cáo ‘AI Gateway Production Index’ phát hành ngày 17. Tỷ trọng token của mô hình có trọng số mở đã tăng từ dưới 7% vào tháng 12/2025 lên hơn một nửa chỉ sau 8 tháng. Tỷ trọng tháng 4/2026 được ghi nhận ở mức 13% do thay đổi tiêu chí thống kê.
AI Gateway là dịch vụ trung gian kết nối các mô hình AI với ứng dụng. Vercel cho biết dữ liệu được tổng hợp từ lưu lượng ẩn danh đi qua gateway. Lượng token bao gồm token đầu vào, đầu ra, suy luận, đầu vào bộ nhớ đệm và token tạo bộ nhớ đệm.
Ở khía cạnh chi tiêu, mô hình đóng vẫn chiếm ưu thế. Anthropic chiếm 64% tổng chi phí, còn mô hình có trọng số mở chiếm 14%.
Vercel giải thích rằng các mô hình của Anthropic có xu hướng được sử dụng cho những tác vụ phức tạp với mức giá tương đối cao. Vì vậy, lượng token lớn không đồng nghĩa với chi phí cao hơn.
Sự khác biệt giữa mức sử dụng và chi phí có liên quan đến cách định tuyến mô hình. Các mô hình chi phí thấp được phân bổ cho những tác vụ xử lý khối lượng lớn, trong khi mô hình tiên tiến được dùng cho công việc đòi hỏi chất lượng hoặc năng lực suy luận cao hơn.
Do đó, việc sử dụng mô hình có trọng số mở tăng lên không có nghĩa là mọi tác vụ đều được chuyển từ mô hình đóng sang mô hình mở. Dữ liệu cho thấy các doanh nghiệp đang phân chia mô hình theo từng loại công việc, kết hợp mô hình chi phí thấp với mô hình có hiệu suất cao.
Chi phí token cũng giảm. Vercel cho biết giá token trung bình trong tháng 8 giảm 23,2% so với tháng trước, đánh dấu tháng giảm thứ ba liên tiếp.
Trong nhóm chỉ gồm các đội ngũ sử dụng hơn 10 triệu token trong hai tháng liên tiếp, chi phí trung vị giảm 7,6%. Tuy nhiên, mức trung bình của toàn bộ dữ liệu và chi phí trung vị của nhóm người dùng cụ thể có đối tượng thống kê khác nhau, nên không thể được diễn giải như cùng một chỉ số.
Từ tháng 7, Vercel đã công khai dữ liệu bảng xếp hạng AI Gateway qua API và CSV. Bảng xếp hạng cung cấp riêng lượng token sử dụng và chi tiêu theo từng mô hình.
Dữ liệu hằng ngày mới nhất cho thấy tỷ trọng mô hình có trọng số mở ở mức 78,4%. Tuy nhiên, đây là số liệu của một ngày cụ thể trong 3 tháng gần nhất, nên không thể so sánh trực tiếp với tỷ trọng 56% theo tháng của tháng 8/2026.
Dữ liệu cho thấy doanh nghiệp không tập trung toàn bộ mức sử dụng vào một mô hình duy nhất mà đang phân bổ mô hình theo chi phí và hiệu suất. Trong bài viết trước của TokenPost về việc Anthropic chiếm tỷ trọng cao trong chi tiêu API AI dành cho doanh nghiệp, chi tiêu và lượng token sử dụng cũng cho thấy những xu hướng khác nhau.
Mô hình có trọng số mở là loại mô hình công khai trọng số, cho phép nhà phát triển hoặc doanh nghiệp chạy và chỉnh sửa trong môi trường riêng. Mô hình đóng không công khai trọng số và phương thức vận hành, thường được cung cấp thông qua API.
Sự khác biệt này có thể trở thành tiêu chí lựa chọn trong môi trường phát triển chú trọng chi phí và quyền kiểm soát. Tuy nhiên, khi vận hành mô hình có trọng số mở trên hạ tầng riêng, doanh nghiệp vẫn phải tính đến chi phí GPU, công cụ triển khai và bảo trì bên cạnh phí sử dụng mô hình.
Không thể mở rộng các số liệu trên thành thị phần của toàn bộ thị trường AI. Dữ liệu chỉ tổng hợp lưu lượng ẩn danh trên một hạ tầng cụ thể đi qua Vercel AI Gateway, nên chưa đủ cơ sở để khẳng định đại diện cho toàn bộ dịch vụ AI và mô hình sử dụng của doanh nghiệp.
Bình luận 0