214GB: Tencent nén Hy4 preview từ 1,5TB gốc

Tencent Hunyuan vừa công bố phiên bản rút gọn của mô hình ngôn ngữ lớn Hy4 preview, giảm dung lượng trọng số từ khoảng 1,5TB bản gốc xuống còn khoảng 214GB. Bản rút gọn này giúp các nhóm phát triển giảm bớt gánh nặng lưu trữ và triển khai khi muốn thử nghiệm mô hình open-weight cỡ lớn trên hạ tầng riêng.

Theo Tencent Hunyuan, công ty công bố phiên bản rút gọn nói trên vào ngày 1, với dung lượng trọng số giảm từ khoảng 1,5TB xuống còn khoảng 214GB.

Bản rút gọn lần này là phiên bản kế tiếp của Hy4 preview, vốn được công bố ngày 28 tháng 8. Hy4 preview là mô hình hỗn hợp chuyên gia (MoE) với tổng cộng 770 tỷ tham số, trong đó 49 tỷ tham số được kích hoạt cho mỗi token. Độ dài ngữ cảnh của mô hình được công bố ở mức 1 triệu token.

Trong tài liệu công khai trên GitHub, Tencent cho biết Hy4 preview được thiết kế cho các tác vụ phát triển phần mềm, soạn thảo tài liệu và bảng tính, phân tích tài chính, phát triển game và nghiên cứu khoa học. Trọng số mô hình được công bố trên Hugging Face, ModelScope, GitCode và CNB, với giấy phép Apache 2.0.

Điểm đáng chú ý của bản rút gọn không nằm ở các chỉ số hiệu năng mà ở khả năng triển khai thực tế. Mô hình bản gốc đòi hỏi dung lượng lưu trữ và tài nguyên suy luận rất lớn. Trước đó, TokenPost từng đưa tin rằng Hy4 preview bản gốc yêu cầu cấu hình song song 8 GPU. Khi dung lượng trọng số giảm, phạm vi mà các nhóm phát triển có thể tự thử nghiệm trên hạ tầng riêng cũng được mở rộng.

Tencent giải thích rằng sau khi nén, khả năng hiểu văn bản dài của mô hình gần như tương đương bản gốc, và khả năng truy xuất ngữ cảnh dài qua nhiều lượt hội thoại cũng ở mức cơ bản tương đương. Hiệu năng toán học giảm nhẹ, nhưng mô hình vẫn xử lý được các tác vụ hỗ trợ lập trình thông thường, gọi công cụ (tool calling), xử lý tài liệu dài và hỏi đáp tổng quát.

Với ngành crypto tại Việt Nam, điểm liên quan không nằm ở giá token mà ở hạ tầng phát triển. Các nhóm phát triển Web3 đang tích hợp AI agent vào việc tạo mã nguồn, phân tích tài liệu, kiểm tra bảo mật và tự động hóa phân tích dữ liệu on-chain. TokenPost từng ghi nhận rằng hạ tầng AI dành cho nhà phát triển có thể được ứng dụng vào việc tạo mã dài và các tác vụ dạng agent, xu hướng này cũng từng xuất hiện khi các mô hình khác của Trung Quốc được công bố trước đây.

Tuy nhiên, các số liệu so sánh hiệu năng nói trên là do Tencent tự công bố. Kết quả ứng dụng thực tế tại hiện trường phát triển và việc tái kiểm chứng độc lập từ bên ngoài là vấn đề riêng. Hiện chưa có căn cứ nào cho thấy Hy4 preview sẽ dẫn đến nhu cầu đối với một loại tiền mã hóa cụ thể nào hay tác động đến biến động giá token.