Mô hình 3 tỷ tham số Granite 4.2 xếp thứ 2 toàn cầu

Tập đoàn IBM (IBM) vừa công bố bộ ba mô hình ngôn ngữ trọng số mở Granite 4.2 (Granite 4.2), đặt trọng tâm vào hiệu năng agent phục vụ doanh nghiệp. Trong đánh giá độc lập, phiên bản 3 tỷ tham số của mô hình này xếp thứ 2 trong số 46 mô hình trọng số mở cùng quy mô.

Theo IBM Research, hãng đã công bố Granite 4.2 với ba kích cỡ 3 tỷ, 8 tỷ và 30 tỷ tham số vào ngày 25. Cả ba mô hình đều được phát hành theo giấy phép Apache 2.0, hỗ trợ chế độ suy luận theo từng bước (reasoning) và khả năng gọi công cụ (tool calling).

Người dùng có thể để mô hình suy luận đầy đủ trước khi trả lời, giảm mức suy luận xuống thấp, hoặc tắt hẳn suy luận để trả lời ngay lập tức. IBM mô tả đây là cách mở rộng lựa chọn giữa tốc độ và độ chính xác cho các tác vụ doanh nghiệp.

Điểm đáng chú ý nhất trong đợt ra mắt lần này là hiệu năng của các mô hình nhỏ. Artificial Analysis chấm cho Granite 4.2 bản 3 tỷ tham số 14 điểm trên thang Intelligence Index, cao hơn mức trung vị 4 điểm của nhóm mô hình trọng số mở cùng quy mô.

Granite 4.2 bản 8 tỷ tham số đạt 20 điểm trong cùng bài đánh giá, trong khi mức trung vị của nhóm cùng quy mô là 9 điểm. Điều này cho thấy cuộc đua không chỉ nằm ở việc tăng số tham số, mà còn ở việc nâng hiệu quả của những mô hình nhỏ mà doanh nghiệp có thể vận hành trong thực tế.

IBM tập trung Granite 4.2 vào các tác vụ agent dành cho doanh nghiệp. Agent ở đây được hiểu là cách dùng AI thực hiện nhiều bước liên tiếp trong kho mã nguồn, terminal hoặc môi trường tìm kiếm, thay vì chỉ tạo ra một câu trả lời đơn lẻ. Mô hình sẽ tự quyết định dùng công cụ nào, theo thứ tự nào, rồi dựa vào kết quả thực thi để chọn bước tiếp theo.

IBM Research cho biết hai bản 8 tỷ và 30 tỷ tham số được huấn luyện thêm một giai đoạn học tăng cường (reinforcement learning) riêng cho agent, bao gồm kỹ thuật phần mềm, sử dụng terminal và các tác vụ dựa trên tìm kiếm. Bản 3 tỷ tham số không trải qua giai đoạn này. Cả ba mô hình đều được huấn luyện tăng cường cơ bản và căn chỉnh (alignment), nhưng chỉ hai bản 8 tỷ và 30 tỷ được huấn luyện sử dụng công cụ trong môi trường sandbox thực tế.

Trong đánh giá nội bộ mà IBM công bố, các mô hình lớn hơn cũng dẫn đầu ở các chỉ số về lập trình và suy luận. Granite 4.2 bản 30 tỷ tham số đạt 57,00% trên SWE-Bench Verified và 89,17% trên AIME25. Bản 8 tỷ tham số đạt 47,67% trên SWE-Bench Verified và 86,67% trên AIME25.

Bản 3 tỷ tham số đạt 78,33% trên AIME25 và 52,41% trên BFCL v4. SWE-Bench Verified đo khả năng sửa lỗi phần mềm, AIME25 đo khả năng suy luận toán học, còn BFCL là benchmark đánh giá khả năng gọi hàm và sử dụng công cụ.

Cấu trúc kỹ thuật của mô hình cũng thay đổi. Tài liệu kỹ thuật công bố trên Hugging Face (Hugging Face) mô tả Granite 4.2 là dòng mô hình suy luận dạng dense decoder-only. Cả ba mô hình được huấn luyện trước trên khoảng 15 nghìn tỷ token, và đều hỗ trợ chuyển đổi chế độ suy luận cùng khả năng gọi công cụ gốc (native tool calling).

Mô hình trọng số mở là loại mô hình AI cho phép tải về trọng số để tự chạy hoặc tinh chỉnh trực tiếp. Với doanh nghiệp, điểm mấu chốt là không phải phụ thuộc hoàn toàn vào API đóng, mà có thể vận hành mô hình theo hạ tầng, chính sách bảo mật và cơ cấu chi phí riêng. TokenPost từng đưa tin rằng các mô hình AI trọng số mở đang trở thành một trụ cột trong chiến lược hạ tầng AI doanh nghiệp.

Với doanh nghiệp và lập trình viên Việt Nam, điều kiện cấp phép cũng là yếu tố cần cân nhắc khi triển khai. Giấy phép Apache 2.0 cho phép sử dụng thương mại và phân phối lại bản chỉnh sửa ở phạm vi rộng. IBM cho biết Granite 4.2 được thiết kế để triển khai trên cloud, on-premise lẫn môi trường edge.

Tuy nhiên, kết quả đánh giá độc lập và đánh giá nội bộ của IBM không dùng chung một tiêu chuẩn. Hiệu năng thực tế khi áp dụng vào công việc cần được từng doanh nghiệp kiểm chứng riêng, dựa trên dữ liệu, yêu cầu bảo mật và môi trường vận hành của mình. Cuộc đua giữa các mô hình trọng số mở đang dịch chuyển từ quy mô tham số sang mức độ ổn định khi xử lý công việc thực tế.