30 tỷ tham số: Mô hình Muse Glimmer của Meta chạy trên card đồ họa phổ thông

Meta(META) ngày 10 công bố mô hình trí tuệ nhân tạo (AI) Muse Glimmer với 30 tỷ tham số, có thể chạy trên một card đồ họa tiêu dùng duy nhất. Đây là mô hình open-weight được thiết kế để xử lý các tác vụ dạng agent ngay trên máy tính cá nhân, không cần thông qua máy chủ đám mây quy mô lớn.

Theo ZeroHedge, trọng số của Muse Glimmer đã được công bố trên kho lưu trữ mô hình Hugging Face. Mô hình được cấp phép theo Apache 2.0, cho phép chỉnh sửa và phân phối lại, với điều kiện người dùng phải tuân thủ các quy định về bản quyền và thông báo giấy phép.

Việc ra mắt lần này tiếp nối xu hướng mà Meta đã theo đuổi khi giới thiệu các mô hình AI open-weight gọn nhẹ có thể chạy trên máy tính cá nhân. Open-weight là hình thức phân phối cho phép tải về trọng số — các giá trị tính toán mà AI sử dụng để xử lý dữ liệu đầu vào và tạo ra kết quả.

Open-weight khác với mã nguồn mở về phạm vi công khai. Việc công bố trọng số mô hình không đồng nghĩa với việc công khai toàn bộ dữ liệu huấn luyện, mã nguồn hay quy trình phát triển.

Muse Glimmer được huấn luyện dựa trên mô hình lớn hơn của Meta là Muse Spark, thông qua kỹ thuật “distillation” (chưng cất) — tận dụng đầu ra và kết quả huấn luyện của mô hình lớn để nâng cao hiệu năng cho mô hình nhỏ hơn.

Một mô hình 30 tỷ tham số thông thường cần hơn 55GB bộ nhớ nếu giữ nguyên độ chính xác số học. Meta đã áp dụng kỹ thuật nén bằng cách giảm độ chính xác số, đưa dung lượng mô hình xuống dưới 20GB.

Ở dung lượng đã nén, mô hình có thể chạy trên card đồ họa 24GB hoặc 32GB cùng các thành phần vận hành khác. Cấu trúc này nhắm đến nhóm nhà phát triển muốn vận hành mô hình trên thiết bị riêng, không phải trả phí đám mây hay kết nối máy chủ ngoài.

Để tăng tốc độ suy luận, Meta áp dụng phương pháp “speculative decoding” (giải mã suy đoán): một mô hình phụ trợ nhỏ hơn dự đoán trước đoạn câu tiếp theo, sau đó mô hình chính kiểm chứng nhiều dự đoán cùng lúc.

Trong thử nghiệm nội bộ của Meta, Muse Glimmer đạt tốc độ nhanh hơn 3,1 lần trên RTX 5090, 1,8 lần trên chip M5 Max và 1,5 lần trên chip M4 Max. Tuy nhiên, đây là số liệu từ các bài thử nghiệm do chính Meta thực hiện, chưa có kiểm chứng độc lập từ bên ngoài.

Muse Glimmer được thiết kế cho các tác vụ dạng agent gồm nhiều bước, như lập trình, xử lý công việc hành chính và gọi các công cụ bên ngoài. AI dạng agent là loại mô hình không chỉ tạo câu trả lời theo yêu cầu, mà còn tự chia nhỏ công việc và sử dụng công cụ để hoàn thành nhiệm vụ.

Meta giới thiệu Muse Glimmer là đối trọng của Gemma 4-31B (Google) và Qwen 3.6-27B (Alibaba). Theo công ty, mô hình này thể hiện năng lực cạnh tranh trong các bài kiểm tra về sửa lỗi mã, gọi công cụ bên ngoài và khả năng phục hồi sau khi tác vụ thất bại.

Mark Zuckerberg (Mark Zuckerberg), CEO Meta, viết trong bài luận “The Future Is for Everyone” rằng “để các mô hình mã nguồn mở của Mỹ dẫn đầu về lâu dài, chính sách của Mỹ cần giảm bớt những rào cản kiểu này”. Ông cho rằng năng lực AI nên được phân phối rộng rãi cho cá nhân và nhà phát triển, thay vì tập trung vào một số ít tổ chức.

Việc công bố diễn ra trong bối cảnh Google, Alibaba, Mistral và DeepSeek cũng lần lượt tung ra các mô hình mở quy mô nhỏ. Chạy mô hình trên thiết bị riêng giúp người dùng chủ động kiểm soát môi trường sử dụng và tùy chỉnh theo mục đích, nhưng đồng thời đòi hỏi tự trang bị phần cứng và năng lực vận hành.

Xu hướng chạy AI cục bộ tác động trực tiếp đến nhu cầu card đồ họa và tài nguyên tính toán cá nhân. Việc này có lan sang lĩnh vực AI tiền mã hóa hay điện toán phi tập trung hay không vẫn cần thêm thời gian quan sát; tác động cụ thể đến giá hay khối lượng giao dịch của các token liên quan hiện chưa được xác nhận.

Meta cho biết sẽ công bố phiên bản open-weight của Muse Spark trong vài tuần tới, sau đó tiếp tục giới thiệu các mô hình lớn hơn. Hiệu năng thực tế của Muse Glimmer dự kiến sẽ được làm rõ hơn khi các nhà phát triển bên ngoài tải trọng số về và tiến hành thử nghiệm độc lập.