Back to top
  • 공유 Share
  • 인쇄 Print
  • 글자크기 Font size
URL copied.

12 mô hình AI, gồm cả mô hình Trung Quốc, trên GPU Ấn Độ: Sarvam tranh luận 'chủ quyền AI'

Lắp đặt bo mạch GPU tại trung tâm dữ liệu ở Ấn Độ / TokenPost.ai

Dịch vụ suy luận Token Factory của Sarvam AI cung cấp các mô hình riêng và mô hình có trọng số mở trên cụm GPU tại Ấn Độ. Tài liệu API hiện liệt kê 12 mô hình, trong đó có các mô hình của Trung Quốc.

Sarvam AI công bố dịch vụ ngày 16 tháng 11. Trong blog chính thức, công ty cho biết Token Factory dành cho nhà phát triển và doanh nghiệp, cho phép gọi nhiều mô hình qua một API tương thích với OpenAI.

Thông báo ra mắt nêu bảy mô hình gồm Sarvam 105B, GLM 5.3, GLM 5.3 Flash, DeepSeek V4.1 Flash 1017, DeepSeek V4 Pro, Kimi K3.1 Pro và Gemma 4 31B. Tài liệu API hiện còn hiển thị Sarvam Prism, Qwen 3.8 27B và EmbeddingGemma 2, nâng tổng số lên 12 mô hình. Sarvam 105B và GLM 5.3 có thể dùng bằng khóa API thông thường, trong khi DeepSeek V4 Pro, Kimi K3.1 Pro và Qwen 3.8 27B cần được tổ chức phê duyệt Provisioned Throughput.

Giá được tính theo mỗi 1 triệu token. Giá khuyến mại ra mắt của DeepSeek V4.1 Flash 1017 là 14 rupee cho đầu vào và 55 rupee cho đầu ra; gói tương tác có giá lần lượt 25 rupee và 105 rupee. Giá khuyến mại ra mắt của Sarvam 105B là 10 rupee cho đầu vào và 25 rupee cho đầu ra, chưa gồm thuế giá trị gia tăng.

Sarvam AI cho biết công ty vận hành cụm NVIDIA B200 quy mô lớn nhất Ấn Độ. Prompt được xử lý trên GPU tại Ấn Độ thay vì gửi tới API của các nhà phát triển mô hình ở nước ngoài. Công ty cũng cung cấp tùy chọn không lưu dữ liệu theo yêu cầu và thỏa thuận mức dịch vụ (SLA) về thời gian hoạt động 99.95% cho doanh nghiệp.

Token Factory không phải dịch vụ huấn luyện mô hình mới mà là hạ tầng suy luận chạy nhiều mô hình thay cho người dùng. Nhà phát triển và doanh nghiệp có thể chuyển đổi mô hình qua một API mà không cần tự xây dựng GPU.

Các số liệu hiệu năng do Sarvam tự đo. Công ty cho biết Sarvam 105B có thời gian phản hồi token đầu tiên 0.2 giây và thông lượng 330 token mỗi giây cho một người dùng. Gemma 4 31B đạt 0.40 giây cho token đầu tiên và 308 token mỗi giây với đầu vào 10.000 token. MarkTechPost dẫn lại số đo của Sarvam cho biết, trong cùng điều kiện đầu vào, thời gian phản hồi token đầu tiên của DeepSeek V4.1 Flash 1017 là 0.71 giây trên Together AI và 0.90 giây trên Sarvam Standard.

Dịch vụ bao gồm DeepSeek, Kimi của Moonshot AI, GLM của Z.ai, Qwen của Alibaba($BABA) và Gemma của Google. The Indian Express phân tích rằng việc nắm giữ trọng số và sở hữu trí tuệ của mô hình nền tảng tại Ấn Độ khác với việc kiểm soát hạ tầng tính toán và xử lý dữ liệu tại nước này; đây là hai khái niệm khác nhau về chủ quyền.

Pratyush Kumar, đồng sáng lập Sarvam AI, nói: “Token Factory vận hành trên các GPU do Sarvam tự huy động vốn.” Phát biểu này cho thấy công ty đang tách biệt GPU được chính phủ trợ giá với thiết bị dùng cho dịch vụ hiện tại.

Sarvam AI giải thích rằng 40% GPU được giảm giá từ chương trình IndiaAI Mission của chính phủ Ấn Độ đã được dùng để huấn luyện các mô hình riêng và chương trình kết thúc vào tháng 3 năm 2026. Chính phủ Ấn Độ chọn Sarvam làm doanh nghiệp phát triển mô hình nền tảng và công bố mức hỗ trợ tài chính, tính toán là 246.72 crore rupee.

Vivek Raghavan, đồng sáng lập Sarvam AI, nói: “Phải làm chủ cả năm tầng của hệ sinh thái AI gồm năng lực tính toán, dữ liệu và đánh giá, mô hình, harness và ứng dụng.” Ông cảnh báo việc phụ thuộc vào hạ tầng thuê ngoài có thể khiến doanh nghiệp chịu áp lực chi phí và giá cả về dài hạn.

Atharva Ingle, kỹ sư AI tại Jarvislabs, viết trên X: “Dịch vụ của chúng tôi ngang bằng hoặc nhanh hơn Sarvam và có giá thấp hơn.” Đây là phản bác trực tiếp đối với benchmark do Sarvam công bố.

Ruturaj Biswas, nhà sáng lập Hypergro, nhận định: “Dòng tiền từ dịch vụ suy luận có thể hỗ trợ phát triển mô hình riêng và huy động thêm vốn.” Ý kiến này cho rằng doanh thu từ hạ tầng suy luận có thể trở thành nguồn tài trợ cho hoạt động phát triển mô hình.

Trước đó, TokenPost đưa tin Sarvam đã công khai API DeepSeek và nêu công suất xử lý 450 tỷ token mỗi ngày. Lần công bố này xác nhận thêm rằng tài liệu API hiện hiển thị 12 mô hình và một số mô hình cần quy trình phê duyệt riêng cho từng tổ chức.

Token Factory là hạ tầng suy luận AI, không phải hoạt động kinh doanh tiền mã hóa hay blockchain. Ở khía cạnh bán dẫn, NVIDIA B200 và vận hành trung tâm dữ liệu được xác định là các nguồn lực cốt lõi. Các số liệu tốc độ và giá do Sarvam tự đo, còn danh sách mô hình có thể sử dụng thực tế phụ thuộc vào việc tổ chức được phê duyệt Provisioned Throughput.

<Copyright ⓒ TokenPost, unauthorized reproduction and redistribution prohibited>

Most Popular

Other related articles

Comment 0

Comment tips

Great article. Requesting a follow-up. Excellent analysis.

0/1000

Comment tips

Great article. Requesting a follow-up. Excellent analysis.
1