100 yêu cầu/giây mỗi tenant: NEAR AI Cloud tung API tương thích OpenAI

NEAR AI Cloud vừa ra mắt API tương thích hoàn toàn với OpenAI, cho phép nhà phát triển giữ nguyên mã nguồn ứng dụng đang dùng client OpenAI mà chỉ cần đổi vài dòng cấu hình. Dịch vụ này đi kèm cơ chế xác thực dựa trên môi trường thực thi đáng tin cậy (TEE) và tài liệu ra mắt ban đầu cho biết hệ thống có thể xử lý tới 100 yêu cầu mỗi giây cho mỗi tenant.

Theo tài liệu ra mắt được NEAR AI công bố ngày 3 tháng 12 năm 2025, NEAR AI Cloud API hỗ trợ tương thích đầy đủ với OpenAI. Đội ngũ phát triển cung cấp sẵn SDK cho Python và TypeScript, đồng thời cho biết nhà phát triển chỉ cần thay đổi URL gốc (base URL) và khóa API trong thư viện client hiện có để bắt đầu sử dụng dịch vụ.

Ví dụ chính thức từ NEAR AI đặt URL gốc là https://cloud-api.near.ai/v1, sau đó chỉ cần đổi tên mô hình và khóa API. Nhờ vậy, nhà phát triển có thể thử nghiệm các tính năng như chat completion mà gần như không phải sửa lại luồng mã nguồn của ứng dụng đang vận hành.

Tuy nhiên, khả năng tương thích với OpenAI không đồng nghĩa mọi tính năng và hành vi đều giống hệt nhau. Kho lưu trữ công khai của NEAR AI liệt kê nhiều endpoint như chat completion, completion thông thường và embedding, nhưng phạm vi hỗ trợ thực tế cùng các giới hạn chi tiết cần được kiểm tra riêng trong tài liệu của từng mô hình.

Yếu tố được NEAR AI Cloud nhấn mạnh là công nghệ TEE. Đây là môi trường xử lý dữ liệu và mã nguồn trong khu vực cách ly bên trong CPU và GPU, giúp tách biệt hoạt động tính toán khỏi hệ điều hành gốc và các ứng dụng khác đang chạy trên cùng phần cứng.

NEAR AI cho biết các yêu cầu được xử lý bên trong TEE, và nhà phát triển có thể xác minh việc tính toán diễn ra trong khu vực bảo mật đã qua kiểm chứng nhờ attestation — cơ chế xác thực dựa trên phần cứng. Tài liệu chính thức của công ty khẳng định cả nhà cung cấp mô hình, đơn vị vận hành hạ tầng đám mây lẫn chính NEAR AI đều không thể xem hoặc sử dụng dữ liệu người dùng để huấn luyện.

Attestation là quy trình xác nhận bằng mật mã học rằng một yêu cầu cụ thể đã được thực thi trong môi trường phần cứng và phần mềm đã được phê duyệt. Nhờ đó, nhà phát triển không cần chỉ dựa vào lời cam kết bảo mật từ phía nhà cung cấp dịch vụ, mà có thể tự kiểm chứng môi trường thực thi một cách độc lập.

Dù vậy, gánh nặng về hiệu năng vẫn tồn tại. Trong tài liệu ra mắt ban đầu, NEAR AI cho biết độ trễ có thể tăng thêm khoảng 5-10% so với môi trường thông thường, trong khi hệ thống có thể xử lý tối đa 100 yêu cầu mỗi giây cho mỗi tenant.

Độ trễ và thông lượng thực tế có thể thay đổi tùy theo mô hình và môi trường dịch vụ cụ thể. Đáng chú ý, việc áp dụng TEE có thể khác nhau giữa các mô hình, nên nhà phát triển cần kiểm tra riêng trên trang thông tin của từng mô hình để biết môi trường thực thi và khả năng cung cấp attestation.

Một số mô hình trên NEAR AI Cloud có thể chạy trên hạ tầng của bên cung cấp bên ngoài thay vì trên GPU TEE do chính NEAR AI vận hành. Trong trường hợp này, attestation dựa trên phần cứng có thể không được cung cấp, do đó mức độ xác minh quyền riêng tư không giống nhau giữa các mô hình.

Phương thức thanh toán của dịch vụ được gắn với NEAR Protocol (NEAR). Ngày 30 tháng 7, NEAR AI công bố cơ chế cho phép người dùng stake NEAR để đổi lấy credit sử dụng cho suy luận AI và hosting agent.

Đây là bước tiếp theo của mô hình gắn việc stake NEAR Protocol (NEAR) với quyền sử dụng hạ tầng tính toán AI mà NEAR AI từng triển khai trước đó. Quyền sở hữu tài sản đã stake vẫn được giữ nguyên, nhưng doanh nghiệp cần đánh giá riêng mức độ ảnh hưởng của biến động giá NEAR đến khả năng dự báo chi phí vận hành.

Việc sử dụng API và thanh toán bằng cách stake token NEAR là hai tính năng tách biệt. Nhà phát triển có thể dùng API tương thích OpenAI mà không cần dùng đến hình thức thanh toán qua staking, và ngược lại, nếu chọn dùng staking thì cần kiểm tra kỹ cơ cấu credit cũng như điều kiện chi phí đi kèm.

Nhìn chung, những gì nhà phát triển cần kiểm tra không chỉ dừng ở khả năng tương thích API. Các yếu tố như tính năng được hỗ trợ theo từng mô hình, việc có áp dụng TEE hay không, quy trình xác minh attestation, độ trễ và thông lượng thực tế, cũng như cơ cấu chi phí của phương thức thanh toán qua staking đều cần được xem xét đồng thời. Mức độ nhà phát triển thực sự chọn dùng NEAR AI Cloud cũng như sự thay đổi thị phần của dịch vụ này hiện chưa thể xác nhận chỉ dựa trên tài liệu công khai.