Yêu cầu AI tăng 9,4 lần, Uber(UBER) vẫn giữ ổn định chi phí từ tháng 4

Uber(UBER) đã tăng số yêu cầu AI agent hàng tuần lên 9,4 lần, nhưng vẫn giữ tổng chi tiêu AI tương đối ổn định kể từ tháng 4. Giới quan sát đánh giá cuộc đua ứng dụng AI của doanh nghiệp đang chuyển từ mở rộng quy mô sử dụng sang kiểm soát chi phí trên từng đơn vị.

Ông Uday Kiran Medisetty, Kỹ sư xuất sắc (Distinguished Engineer) tại Uber, cho biết trên blog kỹ thuật của công ty ngày 27 (giờ địa phương) rằng số yêu cầu AI agent hàng tuần đã tăng 9,4 lần từ tháng 2 đến giữa tháng 8 năm 2026. Cùng giai đoạn này, số người dùng công cụ AI tăng hơn 4 lần, trong khi tổng chi tiêu AI tương đối ổn định kể từ tháng 4.

Theo ông, việc cắt giảm chi phí đến từ cách phân bổ công việc và quản lý token, chứ không chỉ đơn thuần từ giới hạn sử dụng. Uber cho biết, với cùng một mô hình AI, chi phí cho mỗi 1.000 yêu cầu đã giảm gần 34% so với mức đỉnh, còn chi phí mỗi phiên làm việc giảm 52% so với đỉnh hồi tháng 6.

Hơn 70% số lượt gửi thay đổi mã nguồn hiện do agent AI chạy cục bộ hoặc trên đám mây đảm nhận. Các kỹ sư của Uber thực hiện hơn 30.000 tác vụ AI agent mỗi ngày.

AI agent là công cụ phần mềm tự động thực hiện việc kiểm tra mã nguồn, sửa lỗi, chạy tác vụ... theo chỉ dẫn của người dùng. Khác với chatbot hỏi đáp đơn thuần, AI agent lặp lại quá trình đọc, ghi và thực thi cho đến khi đạt mục tiêu, nên số lần gọi và lượng token sử dụng có thể tăng nhanh.

Điểm mấu chốt mà Uber nhấn mạnh là dùng mô hình nào cho việc gì. Công ty cho biết việc chọn mô hình dựa trên ba yếu tố: chi phí theo từng tác vụ, chất lượng kết quả và độ tin cậy của mô hình.

Cấu trúc vận hành gồm một mô hình chính đảm nhận việc chia nhỏ và đánh giá công việc, còn các tác vụ phụ được định nghĩa hẹp thì giao cho mô hình có chi phí thấp hơn xử lý. Cách này giúp giảm tình trạng dồn cả những việc nhỏ vào mô hình hiệu năng cao, qua đó hạ chi phí trên mỗi yêu cầu.

Quản lý token cũng là một trụ cột kiểm soát chi phí. Dù dùng mô hình có thể xử lý tới 1 triệu token, Uber vẫn đặt ngưỡng tự động nén phiên hội thoại ở mức 400.000 token.

Ông Medisetty giải thích token đầu ra và token suy luận thường bị tính phí cao hơn token đầu vào ở các mô hình chủ lực, nên Uber đặt mức độ suy luận mặc định ở mức trung bình. Mô hình suy luận càng lâu, trả lời càng dài thì chi phí càng tăng, và điều này đã được đưa vào tiêu chuẩn vận hành.

Thời gian lưu bộ nhớ đệm (cache) của prompt cũng được điều chỉnh. Do các kỹ sư thường để phiên hội thoại mở và rời máy hơn 5 phút, Uber đã kéo dài thời gian cache từ 5 phút lên 1 giờ.

Cache giúp giảm chi phí gửi lại cùng một ngữ cảnh. Uber cũng cho phép kỹ sư xem chi phí theo thời gian thực của từng phiên làm việc ngay trên terminal, xem đây là một công cụ giúp nâng cao nhận thức về chi phí.

Theo Axios, Uber đã dùng hết ngân sách AI năm 2026 chỉ trong quý 1, sau đó mới bắt đầu ổn định chi phí. Ông Praveen Neppalli Naga, Giám đốc công nghệ (CTO) của Uber, chia sẻ trên X rằng việc thử nghiệm các mô hình trọng số mở (open-weight) là một trong những yếu tố giúp giảm chi phí, đồng thời cho biết "chúng tôi liên tục đánh giá và triển khai mô hình phù hợp cho từng trường hợp sử dụng."

Mô hình trọng số mở là loại mô hình công khai trọng số, cho phép doanh nghiệp tự vận hành theo hạ tầng riêng. Việc không chỉ phụ thuộc vào các mô hình thương mại bên ngoài mà kết hợp thêm hạ tầng nội bộ hoặc mô hình theo từng mục đích giúp doanh nghiệp có thêm dư địa điều chỉnh chi phí và cách kiểm soát.

Trường hợp của Uber cho thấy câu chuyện ứng dụng AI trong doanh nghiệp không chỉ dừng ở cuộc đua hiệu năng mô hình. Cùng với xu hướng việc sử dụng AI agent gia tăng khiến quản lý chi phí trở thành bài toán lớn đối với các nền tảng, nhiều doanh nghiệp hiện ưu tiên kiểm chứng chi phí đơn vị và khả năng kiểm soát vận hành trước khi mở rộng quy mô sử dụng.

Giữa lúc các thảo luận về quy đổi hiệu quả tiết kiệm giờ lao động nhờ AI thành giá trị chi phí ngày càng lan rộng, trường hợp của Uber được xem là một ví dụ thực tế cho thấy cấu trúc chi phí ở giai đoạn vận hành thực tế. Khi AI càng đi sâu vào công việc phát triển phần mềm, bài toán của doanh nghiệp không chỉ là xử lý nhiều yêu cầu hơn, mà còn là duy trì ổn định chi phí cho cùng một khối lượng công việc.