2,4 nghìn tỷ tham số: Qwen của Alibaba công bố LLM mới

Qwen, thương hiệu AI thuộc Alibaba(Alibaba, BABA), đã công bố một mô hình ngôn ngữ lớn (LLM) mới với tổng quy mô 2,4 nghìn tỷ tham số. Mô hình có cấu trúc đa phương thức, xử lý đồng thời văn bản và hình ảnh, trong khi bộ trọng số đã huấn luyện dự kiến được công bố vào tuần tới.

CryptoBriefing đưa tin ngày 2 (giờ địa phương) rằng đội ngũ Qwen tuyên bố mô hình đạt hiệu năng có thể so sánh với các đối thủ trong bộ đánh giá nội bộ. Tuy nhiên, bài viết không nêu cụ thể tên các mô hình được dùng để đối chiếu, cũng không công bố số tham số hoạt động, tức tỷ lệ tham số thực sự được sử dụng trong quá trình suy luận. Vì vậy, dù tổng số tham số lớn, hiệu năng thực tế vẫn có thể khác nếu số tham số hoạt động thấp, và hiện còn sớm để kết luận thứ hạng hiệu năng.

CryptoBriefing cũng cho biết một số dịch vụ đang mở đăng ký sử dụng sớm kèm chương trình khuyến mãi giảm giá tối đa 90%. Dù vậy, bài viết không nêu tên nền tảng cụ thể.

Động thái của Qwen diễn ra khoảng một tuần sau khi Moonshot AI(Moonshot AI) công bố trọng số của mô hình 2,8 nghìn tỷ tham số Kimi K3(Kimi K3) vào ngày 27 tháng trước. Diễn biến này cho thấy các công ty AI Trung Quốc đang tiếp tục xu hướng mở trọng số của các mô hình quy mô lớn ra bên ngoài.

Open weight là cách doanh nghiệp công bố các giá trị tham số của mô hình do chính họ huấn luyện, cho phép bên ngoài tải về và vận hành trên máy chủ riêng. Cách tiếp cận này giúp sử dụng mô hình mà không cần gọi API đám mây, nên được xem là một hướng đi khác với mô hình đăng ký trả phí và tính phí API của các dịch vụ AI đóng. Trong bối cảnh Jensen Huang(Jensen Huang), nhà sáng lập kiêm CEO của NVIDIA(NVIDIA), từng bày tỏ ủng hộ các mô hình mở trọng số và tham gia tranh luận về vị thế dẫn đầu AI của Mỹ, Mark Zuckerberg(Mark Zuckerberg), CEO của Meta(META), cũng từng cho rằng Mỹ không nên cấm các mô hình AI Trung Quốc nếu muốn duy trì lợi thế cạnh tranh AI. Tranh luận quanh các mô hình AI nguồn mở từ Trung Quốc vì thế vẫn tiếp diễn trong giới lãnh đạo công nghệ lớn của Mỹ.

CryptoBriefing nhận định việc công bố này có thể tạo sức ép lên cấu trúc doanh thu của các nhà cung cấp AI đóng, đồng thời có khả năng làm tăng sự quan tâm đến mạng lưới điện toán phi tập trung khi nhà phát triển muốn vận hành mô hình bên ngoài đám mây tập trung. Tuy nhiên, sự thay đổi về nhu cầu điện toán phi tập trung chưa được xác nhận bằng dữ liệu thực tế. Tác động đối với thị trường tiền mã hóa vẫn cần được kiểm chứng thêm.