Chi phí token của AI model rẻ nhất giảm 96% trong 6 tháng

Chi phí token của AI model rẻ nhất đáp ứng cùng một mức điểm trí tuệ đã giảm 96% trong 6 tháng, từ 5,63 USD xuống 0,21 USD cho mỗi 1 triệu token. Con số này không có nghĩa mức phí trung bình của toàn bộ AI model cũng giảm tương đương.

The Information đưa tin ngày 13 (giờ địa phương), dẫn phân tích của Eric Bellomo, giám đốc nghiên cứu tại Pro Research. Tiêu chí so sánh là model có giá thấp nhất trong nhóm đạt một mức điểm trí tuệ nhất định, chứ không phải model có hiệu suất cao nhất.

Dữ liệu thu thập được dẫn phân tích của nhà đầu tư mạo hiểm Tomasz Tunguz rằng 84% token được xử lý trên OpenRouter đi qua các model không thuộc nhóm tiên tiến nhất. Tuy nhiên, chưa xác minh được tài liệu gốc và khoảng thời gian lấy mẫu của con số này. Dữ liệu cũng cho biết Tunguz ước tính hiệu suất của các model đó bằng khoảng 77% model hàng đầu, trong khi chi phí ở mức 2,5%. Cơ sở tính toán và tiêu chí đo lường chưa được xác minh.

OpenRouter là nền tảng kết nối model từ nhiều nhà cung cấp AI thông qua một API. Người dùng có thể chọn model và nhà cung cấp; nền tảng cho biết giá của từng nhà cung cấp được áp dụng. Ngay cả khi dùng cùng một model, hóa đơn có thể thay đổi tùy theo tỷ lệ token đầu vào và đầu ra, nhà cung cấp và việc có sử dụng bộ nhớ đệm hay không.

Báo cáo năm 2025 do OpenRouter và Andreessen Horowitz công bố phân tích siêu dữ liệu của hơn 100 nghìn tỷ token được xử lý trên nền tảng. Dữ liệu này cho thấy mô hình sử dụng AI trên nền tảng, nhưng chưa thể xác nhận đây là cơ sở trực tiếp để tính các con số 84% và 77% do Tunguz đưa ra.

Đơn giá token giảm không đồng nghĩa tổng chi phí dịch vụ cũng giảm theo cùng tỷ lệ. Model giá thấp có thể cần nhiều token hơn hoặc phải chạy lại nhiều lần để hoàn thành tác vụ, còn chất lượng kết quả thay đổi tùy công việc. Vì vậy, chỉ dựa vào đơn giá thì chưa thể kết luận mức tiết kiệm thực tế hay hiệu suất.

Phân tích này cho thấy cách các nhà phát triển lựa chọn model trên dữ liệu sử dụng OpenRouter. Dữ liệu từ riêng nền tảng này không thể đại diện cho hành vi sử dụng trên toàn thị trường AI.