Giảm tới 75% chi phí AI agent: TrueFoundry ra mắt TrueForge mã nguồn mở

TrueFoundry vừa công bố agent harness mã nguồn mở mang tên TrueForge, cho biết công cụ này giúp giảm chi phí thực thi tác vụ AI agent doanh nghiệp khoảng 30% khi dùng cùng một mô hình, và tới khoảng 75% khi chuyển sang mô hình mã nguồn mở.

TrueFoundry ra mắt TrueForge ngày 19/8, nhấn mạnh đây là lớp thực thi trung lập với nhà cung cấp mô hình (vendor-neutral). Công ty mô tả TrueForge là một runtime kết hợp việc gọi mô hình, kết nối công cụ, thực thi trong sandbox, quy trình phê duyệt, quản lý ngữ cảnh và trạng thái phiên làm việc, giúp mô hình ngôn ngữ lớn (LLM) thực hiện được công việc thực tế thay vì chỉ trả lời câu hỏi.

TrueForge được cung cấp dưới nhiều hình thức: giao diện chat, API qua HTTP, SDK TypeScript và SDK giao diện nhúng. Kho mã nguồn công khai kèm thư mục benchmark riêng và được cấp phép theo giấy phép MIT.

Bản benchmark chi tiết so sánh TrueForge với Claude Managed Agent trên 14 tác vụ doanh nghiệp. Khi cùng sử dụng mô hình Opus 4.8, Claude Managed Agent giải quyết trung bình 10,7 tác vụ, với chi phí mỗi lần chạy là 11,8 USD.

Cũng với Opus 4.8, TrueForge giải quyết trung bình 10,7 tác vụ nhưng chi phí mỗi lần chạy chỉ 8,6 USD. Khi chuyển sang mô hình GLM-5.2, TrueForge giải quyết trung bình 11,7 tác vụ với chi phí mỗi lần chạy giảm còn 3,0 USD.

TrueFoundry cho biết các con số trên là trung bình của phép đo lặp lại 3 lần (n=3), trong cùng điều kiện bộ công cụ, cùng system prompt và mỗi lần đều bắt đầu phiên làm việc mới. Kết quả được chấm điểm bởi một mô hình LLM giám khảo độc lập, không phải con người.

Chênh lệch chi phí không chỉ đến từ giá của bản thân mô hình. Việc chi phí vẫn khác nhau ngay cả khi so sánh trên cùng một mô hình cho thấy cách vận hành vòng lặp agent - chạy ít bước hơn, nhẹ hơn - cũng ảnh hưởng trực tiếp đến cấu trúc chi phí.

Agent harness khác với các công cụ mà nhà phát triển chỉ cần đưa prompt là xong. Đây là lớp trung gian có khả năng đọc file, gọi công cụ bên ngoài, chờ con người phê duyệt khi cần thiết và duy trì trạng thái cho những tác vụ kéo dài.

Xu hướng này gắn liền với việc trọng tâm cạnh tranh trong ngành AI đang dịch chuyển từ mô hình nền tảng sang lớp thực thi công việc thực tế. Với AI agent doanh nghiệp, không chỉ hiệu năng mô hình mà cả phạm vi công cụ được mở ra, cách tổ chức ngữ cảnh, cơ chế thử lại và quy trình phê duyệt cũng quyết định chi phí vận hành lẫn mức độ kiểm soát.

Trước đó, TokenPost từng đề cập một trường hợp khác cho thấy cấu trúc thực thi có thể làm thay đổi chi phí mỗi tác vụ trong thử nghiệm AI agent doanh nghiệp. Khi đó, Writer cho biết đã giảm 52% chi phí mỗi tác vụ của mô hình Palmyra X6.

Trang giới thiệu của TrueFoundry tóm gọn TrueForge bằng cụm “chi phí thấp hơn 50%”. Tuy nhiên, bản benchmark chi tiết lại tách rõ theo từng điều kiện: khoảng 30% khi so sánh cùng một mô hình, và tối đa khoảng 75% khi so sánh với mô hình GLM-5.2.

Nếu chỉ đọc một con số duy nhất, người đọc có thể bỏ sót điều kiện thực tế đi kèm. Mức tiết kiệm chi phí có thể thay đổi tùy việc có giữ nguyên mô hình hay chuyển sang mô hình mã nguồn mở, cũng như số lần gọi công cụ và độ dài ngữ cảnh của từng tác vụ.

Ngay sau khi công bố, kho mã nguồn TrueForge trên GitHub đã đạt khoảng 1.900 sao và 129 lượt fork. Con số này cho thấy sự quan tâm ban đầu từ giới phát triển, nhưng chưa đồng nghĩa với việc chuyển hóa thành doanh thu thực tế hay mức độ áp dụng rộng rãi trong doanh nghiệp.

Bộ benchmark sử dụng dữ liệu Enterprise-Bench L1-L2 công khai của DevRev. Kho dữ liệu này được giới thiệu là bộ benchmark gồm 14 tác vụ AI agent doanh nghiệp, công bố vào tháng 7 năm 2026.

Tỷ lệ tiết kiệm nêu trên là kết quả benchmark do chính TrueFoundry công bố. Trong môi trường khách hàng thực tế, chi phí có thể thay đổi tùy theo lựa chọn mô hình, độ dài ngữ cảnh, số lần gọi công cụ, việc có sử dụng sandbox hay không, và mô hình lưu lượng sử dụng thực tế.