Google ra mắt Gemini Decisions API, xử lý tối đa 1.000 câu hỏi mỗi yêu cầu

Crypto Briefing đưa tin Google đã công bố Gemini Decisions API, công cụ dành cho nhà phát triển có thể xử lý tối đa 1.000 câu hỏi trong một yêu cầu. Thay vì tạo câu trả lời dài, API đánh giá tài liệu theo các lựa chọn được xác định trước.

Crypto Briefing cho biết API dựa trên mô hình Gemini Decision 1 và có thể được sử dụng qua Gemini API trong Google AI Studio. Mã định danh của mô hình là gemini-decision-1.

Các mô hình AI tạo sinh thông thường trả lời câu hỏi mở bằng văn bản. Trong khi đó, Decisions API đưa ra kết quả cho những câu hỏi có sẵn các phương án trả lời. Nhà phát triển có thể dùng cách này để kiểm tra một tài liệu theo nhiều tiêu chí.

API hỗ trợ đầu vào dạng văn bản, hình ảnh, âm thanh, video và PDF. Người dùng có thể gửi nhiều định dạng trong cùng một đầu vào.

Kích thước tối đa của đầu vào chung là 256.000 token. Token là đơn vị mô hình AI dùng để xử lý nội dung đầu vào.

Mỗi đầu vào có thể đi kèm tối đa 1.000 câu hỏi độc lập. Câu trả lời cho từng câu hỏi được xử lý riêng, không phụ thuộc vào kết quả của câu hỏi khác.

Chẳng hạn, nhà phát triển có thể gửi một video rồi kiểm tra lần lượt video đó theo nhiều tiêu chí. Cách này cho phép đưa nhiều câu hỏi vào một yêu cầu thay vì gửi lại tài liệu cho từng câu hỏi.

Các ứng dụng được Crypto Briefing nêu gồm chọn công cụ, kiểm tra chính sách, định tuyến mô hình và đánh giá mức độ liên quan của tài liệu tìm kiếm. Định tuyến mô hình là quá trình chọn mô hình AI để xử lý một yêu cầu.

Việc đánh giá độ liên quan có thể giúp hệ thống tìm kiếm xác định tài liệu được tìm thấy có cần thiết cho câu hỏi hay không. Crypto Briefing nhận định rằng kiểm tra tài liệu trước khi chuyển cho mô hình chính có thể cải thiện chất lượng câu trả lời và giảm lượng token không cần thiết.

Google nhấn mạnh khả năng hiệu chỉnh, tức mức độ tự tin của mô hình có tương ứng với tỷ lệ trả lời đúng thực tế hay không. Nếu mô hình đã hiệu chỉnh cho biết độ tin cậy là 90%, thì qua nhiều lần đánh giá, mô hình cần trả lời đúng khoảng 9 trên 10 lần.

Kiểm tra chính sách có thể được áp dụng cho việc kiểm duyệt nội dung hoặc xác minh tuân thủ quy định. Crypto Briefing cho biết việc áp dụng nhiều tiêu chí chính sách cho một tài liệu hoặc video có thể giúp rút ngắn quy trình rà soát tuần tự hiện nay.

Tuy nhiên, Google chưa công bố giá API khi ra mắt. Vì chưa có thông tin giá, vẫn chưa thể xác định liệu công cụ này có giảm chi phí so với cách làm hiện tại hay không.

OpenAI bắt đầu thử nghiệm công khai Decisions API vào ngày 6 tháng 10. Microsoft ($MSFT) giới thiệu mô hình Microsoft-Decision-1 vào ngày 9 tháng 10.

Crypto Briefing nêu giới hạn đầu vào lớn và khả năng xử lý đa phương thức là những điểm nổi bật của sản phẩm Google. Trước đó, TokenPost đã đưa tin Google mở rộng đối tượng có thể sử dụng Gemini 4 Argon API.