Aleph Alpha công bố Kolibri, xử lý tối đa 1.048.576 token

Công ty trí tuệ nhân tạo Đức Aleph Alpha công bố Kolibri, mô hình có trọng số mở hỗ trợ tiếng Đức và tiếng Anh. Mô hình có tổng cộng 78,1 tỷ tham số, nhưng chỉ kích hoạt khoảng 3,46 tỷ tham số cho mỗi token và có thể xử lý ngữ cảnh tối đa 1.048.576 token.

Aleph Alpha cho biết ngày 3 tháng 10, công ty đã đăng tải trọng số mô hình lên Hugging Face theo giấy phép Apache 2.0. Kolibri sử dụng kiến trúc hỗn hợp chuyên gia (MoE). Theo công ty, độ dài ngữ cảnh tối đa được dùng trong quá trình huấn luyện thực tế là 262.144 token; Aleph Alpha cũng khuyến nghị giới hạn này để vận hành hiệu quả.

Kolibri hỗ trợ gọi công cụ và các chế độ suy luận có thể điều chỉnh. Trong đánh giá nội bộ do Aleph Alpha công bố, mô hình đạt 96,9% ở bài kiểm tra AIME 2025 bằng tiếng Anh và 85,9% ở LiveCodeBench v6. Đây là kết quả đánh giá do công ty đưa ra.

BlockBeats đưa tin thành tích tổng hợp của Kolibri bằng tiếng Anh và tiếng Đức cao hơn hoặc thấp hơn mô hình Qwen. Tuy nhiên, tên mô hình trong bảng so sánh được công bố không khớp với tên trong bài viết, nên chưa thể kết luận thứ hạng hiệu năng.

Trọng số của Kolibri đã được công khai và Aleph Alpha cho biết mô hình hỗ trợ tiếng Đức cùng tiếng Anh. Vì vậy, chỉ dựa vào việc công khai mô hình và độ dài ngữ cảnh thì chưa thể đánh giá khả năng hỗ trợ tiếng Việt hay hiệu quả ứng dụng tại thị trường Việt Nam.