2.420 tỷ token/ngày: SenseTime cấp hạ tầng AI cho GLM-5.3-Flash

SenseTime (SenseTime) vừa cung cấp hạ tầng tính toán trí tuệ nhân tạo (AI) sản xuất tại Trung Quốc cùng dịch vụ "token" cho mô hình GLM-5.3-Flash của Z.ai (Zhipu). Hệ thống hạ tầng AI quy mô lớn của SenseTime ghi nhận lượng token xử lý trung bình mỗi ngày trong tháng 7 đạt 2.420 tỷ token.

Tờ Chứng khoán Thời báo (Securities Times) của Trung Quốc đưa tin rằng hạ tầng lớn của SenseTime đã cung cấp năng lực tính toán sản xuất trong nước cùng dịch vụ token cho GLM-5.3-Flash, mô hình vừa được công bố và mở mã nguồn. SenseTime cho biết công ty dự kiến lượng token xử lý trung bình mỗi ngày sẽ vượt mốc 10 nghìn tỷ token vào cuối năm 2026.

Thông tin này cho thấy phần hạ tầng tính toán đứng sau việc vận hành thực tế của GLM-5.3-Flash, sau khi Z.ai công bố và chuyển mô hình này sang mã nguồn mở. Cần lưu ý, "token" ở đây không phải tiền mã hóa mà là đơn vị cơ bản để mô hình AI xử lý văn bản và dữ liệu.

Z.ai công bố GLM-5.3-Flash trên blog công ty ngày 26/8, đồng thời cho biết trước khi ra mắt chính thức, mô hình này đã được thử nghiệm ẩn danh trên OpenCode và OpenRouter dưới tên gọi "ox-alpha". Đây là mô hình đa phương thức gốc đầu tiên trong dòng GLM-5, với tổng cộng 320 tỷ tham số, trong đó 18 tỷ tham số ở trạng thái hoạt động. Mô hình đa phương thức là loại mô hình có thể xử lý đồng thời văn bản, hình ảnh và video.

Hạ tầng lớn của SenseTime được công ty mô tả bằng hình ảnh một "nhà máy token": năng lực tính toán, chip, cụm máy chủ, năng lượng và các điểm triển khai được kết hợp với nhau nhằm nâng cao hiệu suất tạo token khi xử lý yêu cầu của người dùng.

SenseTime nhấn mạnh công nghệ suy luận hỗn hợp dị chủng sử dụng chip sản xuất trong nước, đồng thời khẳng định đã cung cấp hạ tầng tính toán và dịch vụ token nội địa cho dự án này. Tuy nhiên, hiệu suất theo từng cấu hình chip, số liệu so sánh với các dòng sản phẩm của NVIDIA (NVDA), cũng như năng lực sản xuất tính trên chi phí, chưa được công bố riêng.

Thông tin được công bố lần này tập trung phản ánh quy mô hợp tác giữa SenseTime và Z.ai qua lượng token xử lý và hiệu quả công nghệ. Doanh thu thực tế, số lượng khách hàng và mức độ ảnh hưởng tới các nhà phát triển bên ngoài chưa được công bố riêng.