GLM-5.3-Flash hỗ trợ 1 triệu token được Near AI Cloud đưa lên OpenRouter

Near AI Cloud đã đăng ký làm nhà cung cấp trên OpenRouter và cung cấp GLM-5.3-Flash của Z.ai. Mô hình hỗ trợ ngữ cảnh tối đa 1 triệu token cùng dữ liệu đầu vào dạng văn bản, hình ảnh và video.

Danh sách nhà cung cấp của OpenRouter ghi nhận Near AI là đơn vị áp dụng chính sách 'Zero retention' và không sử dụng prompt để huấn luyện. Nhà cung cấp này hiện được liệt kê một mô hình. Danh sách nhà cung cấp chính thức của OpenRouter cũng thống kê thông lượng theo từng nhà cung cấp.

Việc tích hợp được triển khai thông qua tuyến 'near-ai' của OpenRouter. Z.ai là đơn vị phát triển mô hình, trong khi Near AI Cloud đóng vai trò nhà cung cấp hạ tầng với môi trường suy luận bảo mật. Crypto Briefing đã đưa tin về nội dung này.

Z.ai công bố GLM-5.3-Flash vào ngày 26 tháng 8. Thông báo chính thức cho biết mô hình được thiết kế với tổng cộng 320 tỷ tham số, trong đó 18 tỷ tham số được kích hoạt, đồng thời kết hợp attention thưa và attention tuyến tính để xử lý ngữ cảnh dài.

Điểm khác biệt mà Near AI Cloud nhấn mạnh nằm ở môi trường thực thi hơn là hiệu suất mô hình. Công ty cho biết họ sử dụng máy ảo dựa trên Intel TDX và GPU NVIDIA($NVDA) để thực hiện suy luận trong môi trường thực thi tin cậy (TEE), đồng thời cung cấp cơ chế attestation cho phép xác minh bằng chữ ký phần cứng rằng yêu cầu đã được xử lý trong môi trường này.

Trang web chính thức của Near AI cho biết tác vụ được thực hiện trong môi trường chặn truy cập từ bên ngoài, được thiết kế để hệ điều hành máy chủ, đơn vị vận hành GPU và Near AI không thể xem nội dung thực thi. Mỗi yêu cầu cũng trả về chứng chỉ chữ ký phần cứng để bên thứ ba kiểm tra.

Việc đăng ký trên OpenRouter cho phép nhà phát triển gọi mô hình qua API mà không cần tài khoản hoặc SDK riêng của Near AI. OpenRouter là nền tảng định tuyến kết nối nhiều mô hình và nhà cung cấp thông qua một API, đồng thời hỗ trợ chọn hoặc loại trừ nhà cung cấp theo từng mô hình.

Tuy nhiên, sử dụng OpenRouter không đồng nghĩa mọi yêu cầu đều được xử lý tại Near AI Cloud. Khi dùng định tuyến tự động, yêu cầu có thể được chuyển sang nhà cung cấp khác. Vì vậy, nhà phát triển cần kiểm tra tùy chọn cố định hoặc loại trừ nhà cung cấp cho từng yêu cầu.

Nhãn 'Zero retention' trên trang nhà cung cấp của OpenRouter chỉ phản ánh thông tin chính sách ở cấp nhà cung cấp Near AI. Việc mọi yêu cầu đi qua OpenRouter có được xử lý với cùng mức độ bảo mật hay không còn phụ thuộc vào lựa chọn nhà cung cấp, tài khoản và cấu hình API.

Trang web chính thức và tài liệu quyền riêng tư của Near AI cho biết dữ liệu đầu vào và đầu ra được xử lý trong vùng bảo mật phần cứng trong quá trình suy luận, đồng thời nội dung người dùng không được sử dụng để huấn luyện mô hình. Tuy nhiên, chỉ riêng tuyên bố này chưa đủ để khẳng định cơ chế tương tự cũng được áp dụng cho quy trình định tuyến, bộ nhớ đệm và xử lý lỗi của OpenRouter.

Ngữ cảnh dài của GLM-5.3-Flash có thể được sử dụng để xử lý tài liệu dài, mã nguồn và hướng dẫn công việc nhiều bước trong một lần. Tốc độ thực tế và chất lượng phản hồi có thể thay đổi tùy theo hạ tầng của từng nhà cung cấp và cấu hình yêu cầu.

Crypto Briefing đưa ra mức giá cung cấp của Near AI Cloud là 0,15 USD (khoảng 203 won) cho mỗi 1 triệu token đầu vào và 0,50 USD (khoảng 678 won) cho mỗi 1 triệu token đầu ra. Tuy nhiên, cần kiểm tra riêng xem mức giá này có trùng khớp với màn hình thanh toán hiện tại của OpenRouter hay không.

Cộng đồng nhà phát triển đưa ra đánh giá tích cực về ngữ cảnh dài và hiệu quả chi phí, trong khi một số ý kiến chỉ ra sự khác biệt về tốc độ, tỷ lệ lỗi và chất lượng phản hồi giữa các nhà cung cấp. Trên diễn đàn Near, việc đăng ký OpenRouter được xem là trường hợp mở rộng mạng lưới phân phối đến nhà phát triển, nhưng cũng có ý kiến cho rằng cần thêm các chỉ số thể hiện mức độ chấp nhận và sử dụng thực tế.

Trường hợp này nối tiếp xu hướng Near AI Cloud thu hút nhà phát triển bằng API tương thích OpenAI và cơ chế xác minh quyền riêng tư dựa trên TEE. Nói cách khác, phương thức tiếp cận API hiện có đã được bổ sung thêm một kênh phân phối bên ngoài là OpenRouter.

Chưa có bằng chứng cho thấy việc đăng ký OpenRouter sẽ dẫn đến nhu cầu đối với token NEAR Protocol (NEAR) hoặc mức độ chấp nhận của nhà phát triển tăng lên. Nhà phát triển cần kiểm tra theo từng yêu cầu xem nhà cung cấp 'near-ai' có được chỉ định hay không và tùy chọn không lưu giữ dữ liệu có được áp dụng hay không.