Có thông tin cho biết DeepSeek đã chính thức ra mắt phiên bản V4.1 Flash với cấu trúc mới, trong đó chỉ kích hoạt 8 tỷ tham số cho mỗi lượt xử lý đầu vào, trên tổng số 552 tỷ tham số của mô hình.
BlockBeats đưa tin về kiến trúc mới và quy mô tham số kích hoạt của V4.1 Flash. Tuy nhiên, đến nay vẫn chưa tìm thấy model card chính thức hay tài liệu kỹ thuật nào từ DeepSeek xác nhận việc ra mắt chính thức này.
Theo model card chính thức của DeepSeek V4, phiên bản V4 Flash hiện tại là mô hình hỗn hợp chuyên gia (mixture of experts) với tổng cộng 285 tỷ tham số, kích hoạt 13 tỷ tham số cho mỗi token. Quy mô thực tế của mô hình V4.1 Flash cũng như số tham số được kích hoạt cần được xác nhận lại sau khi DeepSeek công bố thêm tài liệu chính thức.
Bình luận 0