Tencent mở API Hy4 Preview 770 tỷ tham số cho nhà phát triển

Tencent (Tencent) vừa đưa mô hình ngôn ngữ lớn mã nguồn mở Hunyuan Hy4 Preview lên API của B.AI, cho phép nhà phát triển gọi mô hình này để xử lý văn bản dài và các tác vụ dạng agent.

B.AI cho biết ngày 2 rằng nền tảng này đã tích hợp mô hình chủ lực mã nguồn mở mới nhất của đội ngũ Tencent Hunyuan vào dịch vụ API và mở hoàn toàn quyền truy cập cho nhà phát triển. Nhà phát triển có thể gọi mô hình bằng mã ID “hy4-preview”. Hy4 Preview được giới thiệu là phiên bản đầu tiên trong dòng Hy4.

Hy4 Preview là mô hình ngôn ngữ dạng hỗn hợp chuyên gia (MoE) với 770 tỷ tham số backbone, kích hoạt 49 tỷ tham số cho mỗi token, cửa sổ ngữ cảnh ở mức 1 triệu token.

Điểm đáng chú ý của lần triển khai này là nhà phát triển có thể gọi mô hình qua API mà không cần tự tải về và vận hành mô hình quy mô lớn. Cấu hình được thiết kế cho các tác vụ có đầu vào lớn, cần xử lý một lần như tài liệu kỹ thuật dài, kho mã nguồn hay dữ liệu nghiệp vụ.

Hy4 Preview là mô hình dựa trên văn bản. Việc cung cấp qua API giúp nhà phát triển gọi trực tiếp Hy4 Preview mà không phải tự vận hành mô hình riêng.

Cấu trúc mô hình cũng được thiết kế phù hợp với các tác vụ dạng agent. Tencent Hunyuan giới thiệu các lĩnh vực ứng dụng chính của Hy4 Preview gồm agent kỹ thuật phần mềm, quy trình xử lý dữ liệu nghiệp vụ, phát triển game và nghiên cứu khoa học.

Trước đó, khi công bố Hy4 Preview, Tencent cũng nêu các lĩnh vực ứng dụng chính gồm lập trình, công việc văn phòng và nghiên cứu khoa học. TokenPost từng đưa tin Hy4 Preview ra mắt với tổng cộng 770 tỷ tham số và cửa sổ ngữ cảnh 1 triệu token, sau đó là bản rút gọn với dung lượng trọng số giảm từ khoảng 1,5TB xuống còn khoảng 214GB.

Thông báo lần này không liên quan trực tiếp đến giá tiền mã hóa hay việc phát hành token nào. Tuy nhiên, đây có thể xem là một ví dụ cho thấy hạ tầng dành cho các dịch vụ Web3 như sàn giao dịch, ví, phân tích dữ liệu hay công cụ tự động hóa đang có thêm lựa chọn khi tích hợp tính năng AI xử lý văn bản dài và gọi công cụ. Hiệu năng thực tế và cơ cấu chi phí sẽ cần chờ các trường hợp ứng dụng cụ thể từ phía nhà phát triển.