API Gemini Decisions tính phí 0,10 USD mỗi 1 triệu token đầu vào

Giá tiêu chuẩn trả phí của Gemini Decisions API là 0,10 USD (khoảng 133 won) cho mỗi 1 triệu token đầu vào. API không tạo câu trả lời bằng văn bản nên không tính phí token đầu ra.

Ngày 11, Google, công ty thuộc Alphabet (GOOGL), giới thiệu mô hình Gemini Decision 1 và Gemini Decisions API trong thông báo chính thức. Nhà phát triển gửi dữ liệu đầu vào cùng câu hỏi, sau đó mô hình trả về giá trị đánh giá theo định dạng định sẵn.

API hỗ trợ dữ liệu đầu vào dạng văn bản, hình ảnh, âm thanh, video và PDF. Kết quả có thể là có hoặc không, một lựa chọn trong danh sách định sẵn, hoặc điểm số dựa trên tiêu chí. Tài liệu API của Google cho biết mỗi kết quả cũng có xác suất và mức độ tin cậy.

Google đưa ra thời gian xử lý đầu cuối từ 0,15 đến 0,25 giây. Đây là số đo trong điều kiện ngữ cảnh đầu vào không quá 16.000 token và có từ 1 đến 100 câu hỏi.

Mỗi yêu cầu có thể chứa tối đa 1.000 câu hỏi. Giới hạn ngữ cảnh tổng cộng, bao gồm dữ liệu đầu vào dùng chung và toàn bộ câu hỏi, là 262.144 token. Số câu hỏi tối đa và thời gian xử lý từ 0,15 đến 0,25 giây áp dụng cho các điều kiện khác nhau.

Các câu hỏi cùng tham chiếu một bộ dữ liệu đầu vào nhưng được đánh giá độc lập, không thể xem câu trả lời của nhau. Mã dịch vụ sẽ kết hợp kết quả trả về để quyết định nhánh xử lý hoặc công việc tiếp theo. Bản thân API không thực hiện thanh toán hay gọi công cụ.

API này không được thiết kế để viết nội dung giải thích, tạo tham số cần thiết cho việc gọi công cụ hoặc thực hiện suy luận nhiều bước. Google hướng dẫn dùng Interactions API riêng cho những tác vụ đó.

Dữ liệu đầu vào dùng chung chỉ bị tính phí một lần cho mỗi yêu cầu. Tuy nhiên, hướng dẫn và tiêu chí đánh giá bổ sung cho từng câu hỏi cũng được tính vào lượng token đầu vào. Vì vậy, khi số câu hỏi tăng, token dành cho hướng dẫn riêng của từng câu cũng tăng theo.

Bảng giá của Google phân biệt điều kiện xử lý dữ liệu giữa gói miễn phí và gói trả phí. Nội dung đầu vào ở gói miễn phí có thể được dùng để cải thiện sản phẩm của Google. Google nêu rõ nội dung ở gói trả phí không được dùng cho mục đích này.

Google nêu hai ứng dụng trong sản phẩm của mình: chọn mô hình trong Gemini Notebook và phát hiện đầu vào đối kháng trong Google Search. Ở cả hai trường hợp, kết quả đánh giá được dùng để phân loại hoặc chọn hướng xử lý trong dịch vụ.

Google cho biết đã giảm độ trễ của các truy vấn thông thường trong Gemini Notebook tới 40%. Đây là kết quả do Google công bố cho sản phẩm của mình, không phải số đo tốc độ xử lý của các dịch vụ bên ngoài.

Câu hỏi chọn đáp án có thể buộc mô hình chọn một phương án ngay cả khi dữ liệu đầu vào không phù hợp với phương án nào. Google khuyến nghị thêm lựa chọn “Khác” hoặc đặt câu hỏi riêng để xác nhận phạm vi đầu vào.

Chỉ dấu mức độ tin cậy cao không bảo đảm kết quả đánh giá chính xác. Google khuyến nghị kiểm tra ngưỡng tin cậy trên các trường hợp có đáp án thực tế, đồng thời cân nhắc chi phí của việc nhận diện nhầm và bỏ sót. Với hành động có ảnh hưởng lớn như thanh toán, Google hướng dẫn duy trì bước con người rà soát hoặc kiểm tra lần thứ hai.