Multiverse ra mắt mô hình AI 60 tỷ tham số dựa trên NVIDIA

Multiverse Computing đã ra mắt Comet 60B, mô hình trí tuệ nhân tạo đa phương thức có tổng cộng 60 tỷ tham số. Công ty cho biết mô hình xử lý văn bản, hình ảnh và video, đồng thời đạt kết quả gần với mô hình gốc trong một số bài kiểm tra chuẩn.

Comet 60B được phát triển dựa trên Nemotron 3.5 Super VL của NVIDIA($NVDA). Mô hình gốc dùng kiến trúc hỗn hợp chuyên gia (MoE), có tổng cộng 120 tỷ tham số, trong đó 12 tỷ tham số được kích hoạt. Multiverse Computing cho biết đã giảm tổng số tham số của Comet 60B xuống còn 60 tỷ, trong khi giữ nguyên 12 tỷ tham số được kích hoạt.

Theo kết quả đánh giá do công ty công bố, Comet 60B đạt điểm trong phạm vi 5% so với độ chính xác của mô hình gốc ở nhiều tác vụ văn bản, tác vụ tác nhân AI và bài kiểm tra chuẩn về hình ảnh, video. Trong bài kiểm tra GPQA Diamond dành cho các câu hỏi khoa học ở trình độ sau đại học, Comet 60B đạt 88,57 điểm, còn mô hình gốc đạt 90,40 điểm. Ở SWE-bench Pro, bài kiểm tra năng lực giải quyết vấn đề phần mềm, hai mô hình lần lượt đạt 51,48 và 52,44 điểm.

Trong τ²-Bench, bài đánh giá tác nhân chăm sóc khách hàng sử dụng công cụ, Comet 60B đạt 81,01 điểm, so với 81,48 điểm của mô hình gốc. Ở phần đánh giá chuyên biệt về viễn thông, Comet 60B đạt 83,11 điểm, cao hơn mức 81,91 điểm của mô hình gốc. Đây là các kết quả đánh giá do công ty công bố.

Comet 60B được phát hành dưới dạng mô hình mã nguồn mở và hỗ trợ các định dạng BF16, FP8 và NVFP4. Multiverse Computing cho biết đã sử dụng khung nén và tối ưu hóa riêng mang tên CompactifAI. Thông báo của công ty được đăng tại đây; mô hình có thể được sử dụng trên Hugging Face.