Back to top
  • 공유 Share
  • 인쇄 Print
  • 글자크기 Font size
URL copied.

Giảm 40% phí token: OpenAI API thêm cửa sổ hoàn tất 8 giờ

Bàn tay chọn cửa sổ xử lý nền trên máy tính xách tay / TokenPost.ai

OpenAI đã bổ sung các cửa sổ hoàn tất 2 giờ và 8 giờ cho chế độ nền của Responses API. Khi chọn cửa sổ 8 giờ, phí token mô hình thấp hơn 40% so với xử lý Standard.

OpenAI cho biết trong changelog dành cho nhà phát triển ngày 17 rằng tính năng này đã được đưa vào thử nghiệm beta công khai. Các điều kiện chi tiết được nêu trong tài liệu về chế độ nền.

Cửa sổ hoàn tất là thời gian mục tiêu để API xử lý phản hồi đầu tiên sau khi nhận yêu cầu. Đây không phải thời hạn được bảo đảm theo mức dịch vụ, mà là mốc dùng để xác định thời điểm xử lý phản hồi ban đầu.

soonest, tùy chọn mặc định, hướng tới xử lý nhanh nhất mà không giảm giá. Cửa sổ 2h giúp phí token mô hình thấp hơn 30% so với Standard, còn cửa sổ 8h giảm 40%.

Các cửa sổ giảm giá được cung cấp cho GPT-6.2 Astra, GPT-6.2 Sol, GPT-6.1 Terra và GPT-6 Luna. Cả bốn mô hình đều nằm trong đợt beta công khai lần này.

Tính năng hướng đến những công việc như rà soát tài liệu hoặc phân tích ban đêm, khi người dùng không cần nhận kết quả ngay lập tức. Với các quy trình tác vụ gồm nhiều bước, người dùng có thêm lựa chọn kéo dài thời gian xử lý để giảm chi phí token.

Để sử dụng cửa sổ 2h và 8h, cần bật xử lý nền và chọn xử lý Standard. Các cửa sổ giảm giá không hỗ trợ đầu ra truyền theo luồng, vì vậy phải dùng webhook hoặc truy vấn ID phản hồi để theo dõi trạng thái.

Trong yêu cầu tiếp theo, có thể tái sử dụng cùng continuation_id. OpenAI hướng dẫn rằng nếu tiếp tục dùng cùng cửa sổ hoàn tất, continuation_id, mô hình và dự án, các yêu cầu liên quan có thể nhận mức ưu tiên hàng đợi cao hơn. Mức giảm cũng áp dụng cho các yêu cầu tiếp theo đủ điều kiện.

GPT-6.2 Astra và GPT-6.2 Sol không còn hỗ trợ phương thức xử lý Flex. Với các tác vụ kéo dài, người dùng cần chọn cửa sổ nền 2 giờ hoặc 8 giờ thay cho Flex nếu muốn giảm chi phí.

Các yêu cầu dùng cửa sổ 2 giờ và 8 giờ chia sẻ hạn mức tốc độ dành cho Batch API và Batch/Background. Token đầu vào được tính vào hạn mức ngay khi gửi yêu cầu, trong khi soonest sử dụng hạn mức yêu cầu và token thông thường.

Khi gửi đồng thời nhiều tác vụ quy mô lớn, việc quản lý hạn mức sẽ khác với yêu cầu thông thường. Vì vậy, cần kiểm tra cả số lượng yêu cầu gửi cùng lúc và hạn mức còn lại.

Chế độ nền vẫn có thể tạm thời lưu dữ liệu phản hồi để gửi kết quả ngay cả khi đã tắt tùy chọn lưu trữ hoặc sử dụng Zero Data Retention. Tài liệu cho biết nội dung yêu cầu được mã hóa trong thời gian lưu trữ này.

Cửa sổ hoàn tất mới chỉ được cung cấp cho chế độ nền của Responses API, không phải tính năng giảm giá áp dụng cho các yêu cầu Chat Completions thông thường. Ứng dụng cần phản hồi theo thời gian thực có thể dùng soonest, còn phân tích tài liệu ban đêm có thể chọn 2h hoặc 8h.

Đây không phải lần đầu OpenAI điều chỉnh giá API. TokenPost trước đây đã đưa tin về việc giảm đơn giá token đầu vào API của GPT-6 Luna. Điểm khác lần này là mức giảm được chia theo thời gian chờ xử lý, thay vì áp dụng một đơn giá cố định cho từng mô hình.

Các nhà phát triển sử dụng beta công khai cần kiểm tra đồng thời cửa sổ hoàn tất, chế độ Standard, giới hạn truyền theo luồng và hạn mức tốc độ dùng chung. Những lựa chọn hiện có cho phép điều chỉnh sự cân bằng giữa tốc độ phản hồi và chi phí ngay khi gửi yêu cầu API.

<Copyright ⓒ TokenPost, unauthorized reproduction and redistribution prohibited>

Most Popular

Other related articles

Comment 0

Comment tips

Great article. Requesting a follow-up. Excellent analysis.

0/1000

Comment tips

Great article. Requesting a follow-up. Excellent analysis.
1