OpenAI đã đưa mô hình giọng nói thời gian thực GPT-Live-1.1 lên API và áp dụng mức phí chờ 0.02 USD/phút (khoảng 27 won) trong thời gian WebRTC không hoạt động. Khi có âm thanh truyền qua, mức phí hoạt động là 0.05 USD/phút (khoảng 67 won).
OpenAI cho biết trong thông báo cộng đồng nhà phát triển ngày 20 rằng GPT-Live-1.1 đã có thể sử dụng qua API. Nhà phát triển có thể dùng ID mô hình gpt-live-1.1 để kết nối mô hình với ứng dụng giọng nói của riêng mình. Thông tin chi tiết được nêu trong thông báo cộng đồng nhà phát triển của OpenAI.
GPT-Live-1.1 là mô hình giọng nói song công toàn phần, có thể vừa nghe vừa nói đồng thời. OpenAI cho biết so với GPT-Live-1, phiên bản mới cải thiện độ chính xác chuyển giọng nói thành văn bản, độ nhất quán ngữ điệu và giọng nói ở nhiều ngôn ngữ, khả năng nhận diện chữ và số, tuân thủ chỉ dẫn và chuyển tác vụ phức tạp sang mô hình backend.
Việc công bố mở rộng tính năng thoại cho người dùng thành API dành cho nhà phát triển. GPT-Live-1.1 đã được dùng cho tính năng thoại của ChatGPT Plus và Pro từ ngày 15 tháng 10. TokenPost trước đó đưa tin GPT-Live-1.1 được phân phối từng bước trong ChatGPT Voice. So với thông tin phân phối khi đó, thông báo lần này nêu rõ cách nhà phát triển gọi mô hình trong ứng dụng riêng.
Chế độ chờ áp dụng cho cả GPT-Live-1.1 và GPT-Live-1. Nhà phát triển có thể chọn phát hiện giọng nói làm tiêu chí chuyển sang chờ khi tạo phiên WebRTC, đồng thời đặt thời gian không hoạt động từ 5 đến 60 giây. Nếu không phát hiện giọng nói trong khoảng thời gian đã đặt, quá trình suy luận tạm dừng nhưng kết nối cuộc gọi và ID phiên vẫn được giữ.
Khi người dùng nói lại, phiên được khôi phục cùng lịch sử cuộc trò chuyện. Mức phí chờ 0.02 USD/phút thấp hơn trạng thái hoạt động 0.03 USD/phút (khoảng 40 won). Chỉ tắt tiếng micrô không chuyển phiên sang chờ, vì vậy phí hoạt động vẫn tiếp tục.
Với dịch vụ dự kiến có khoảng im lặng dài, nhà phát triển có thể đóng phiên thay vì duy trì chờ rồi tạo phiên mới khi người dùng quay lại. OpenAI hướng dẫn lưu bối cảnh cuộc trò chuyện và trạng thái tác vụ để tiếp tục nếu chọn cách này. Cách quản lý phiên được trình bày trong hướng dẫn quản lý phiên của OpenAI.
GPT-Live phụ trách nghe và nói trong cuộc trò chuyện, còn suy luận hoặc gọi công cụ bên ngoài có thể giao cho backend riêng. Nhà phát triển phải tính riêng thời lượng phiên giọng nói với mức sử dụng mô hình và công cụ backend. Áp dụng phí chờ không loại bỏ phí sử dụng backend.
Tài liệu API cho biết GPT-Live-1.1 hỗ trợ streaming và gọi hàm. Hình ảnh và video không được hỗ trợ.
Cấu trúc này cho phép ghi riêng thời gian hoạt động có âm thanh và thời gian chờ khi suy luận thực tế dừng. Nhà phát triển sẽ tính hai mức phí riêng, sau đó cộng chi phí mô hình backend và lệnh gọi công cụ để ra tổng phí.
WebRTC là công nghệ liên lạc âm thanh và video thời gian thực, được dùng trong API này như đường truyền duy trì kết nối phiên. Chế độ chờ dựa trên phát hiện giọng nói chỉ tạm dừng suy luận trong một khoảng thời gian sau khi người dùng ngừng nói.
Thiết lập thời gian không hoạt động dùng để phân biệt lúc hội thoại ngắt quãng trong thời gian ngắn với im lặng kéo dài. Nhà phát triển có thể chọn ngưỡng từ 5 đến 60 giây phù hợp luồng hội thoại của dịch vụ.
Giới hạn phiên đồng thời của GPT-Live-1 và GPT-Live-1.1 được áp dụng riêng. Dịch vụ dùng cả hai mô hình phải quản lý tách số kết nối từng mô hình và chi phí phiên giọng nói.
Việc OpenAI công bố API cho phép nhà phát triển tự thiết kế đường gọi mô hình và cách vận hành phiên cho ứng dụng giọng nói thời gian thực. Thời gian duy trì kết nối, tiêu chí chuyển sang chờ và chi phí gọi backend là các yếu tố then chốt khi sử dụng API.
Comment 0