Liquid AI công bố mô hình suy luận có 2,45 tỷ tham số hoạt động

Mô hình suy luận LFM2.5-24B-A2B có tổng cộng 24 tỷ tham số, trong đó 2,45 tỷ tham số được kích hoạt khi xử lý token, đã được Liquid AI giới thiệu dành cho các tác vụ tác nhân và sử dụng công cụ ngay trên thiết bị.

Ngày 13 tháng 10, Liquid AI công bố LFM2.5-24B-A2B, mô hình cuối cùng trong dòng sản phẩm LFM2.5. Trọng số của mô hình cơ sở và phiên bản được hậu huấn luyện cho tác vụ tác nhân có thể tải xuống trên Hugging Face.

Thẻ mô hình ghi nhận tổng số tham số là 24,0 tỷ và số tham số hoạt động là 2,45 tỷ. Tham số hoạt động là phần thực sự tham gia tính toán khi xử lý token. Điều này không đồng nghĩa bộ nhớ cần để lưu trữ và chạy toàn bộ mô hình giảm theo tỷ lệ tham số hoạt động; yêu cầu thực tế có thể khác nhau tùy công cụ chạy và phương thức lượng tử hóa.

Mô hình có độ dài ngữ cảnh 131.072 token và hỗ trợ 16 ngôn ngữ, trong đó có tiếng Hàn. So với LFM2-24B-A2B trước đó, độ dài ngữ cảnh tăng từ 32K lên 131K, còn kích thước từ vựng tăng từ 65K lên 128K. Thẻ mô hình cũng hướng dẫn chạy bằng Transformers, vLLM và SGLang, đồng thời hỗ trợ các định dạng GGUF và MLX.

Các số liệu hiệu năng là kết quả đánh giá nội bộ của Liquid AI. Công ty cho biết đã so sánh 16 bộ benchmark và LFM2.5-24B-A2B đạt kết quả ngang bằng hoặc cao hơn Qwen3.6-35B-A3B ở 5 trong 8 bài đánh giá về tác nhân và sử dụng công cụ. Điểm AutomationBench của LFM2.5-24B-A2B được công bố là 27,69, so với 8,72 của mô hình đối chiếu.

Tốc độ tạo nội dung được đo trong những điều kiện cụ thể. Liquid AI công bố mô hình tạo 184 token mỗi giây trên Apple M5 Max; thẻ mô hình nêu rõ phép đo sử dụng llama.cpp, lượng tử hóa Q4_K_M và ngữ cảnh đầu vào 4K. Mức tốc độ tối đa gấp 1,7 lần so với mô hình đối chiếu mà công ty đưa ra cũng dựa trên các điều kiện đo này.

Đây là mô hình chỉ xử lý văn bản, không xử lý hình ảnh hoặc âm thanh. Trọng số được công bố cùng nhiều định dạng chạy để nhà phát triển thử nghiệm trong môi trường của mình; tốc độ thực tế và mức bộ nhớ cần thiết sẽ thay đổi tùy thiết bị và điều kiện vận hành.