OpenAI dùng Ultrafast xử lý tới 750 token mỗi giây khi ứng phó sự cố

OpenAI sử dụng gói xử lý tốc độ cao Ultrafast để ứng phó với sự cố nội bộ. Công ty cho biết gói này nhanh hơn tối đa 14 lần so với xử lý tiêu chuẩn và có thể tạo tối đa 750 token đầu ra mỗi giây, nhưng chưa công bố số liệu so sánh tổng thời gian điều tra sự cố trước và sau khi áp dụng.

Ngày 13 tháng 8, OpenAI mở bản xem trước Ultrafast cho một số khách hàng dưới dạng cấp dịch vụ API của GPT-5.6 Sol. Tính năng này được cung cấp qua hạ tầng suy luận của Cerebras. Mức nhanh hơn 14 lần và tốc độ 750 token mỗi giây là hiệu suất tối đa do công ty công bố, không phản ánh thời gian xử lý từng sự cố hay hiệu suất trung bình.

OpenAI cho biết các kỹ sư nội bộ dùng Ultrafast để đọc nhật ký và dữ liệu truy vết khi hệ thống phát cảnh báo, đồng thời tổng hợp các cuộc trao đổi liên quan. Công cụ này cũng hỗ trợ tìm các hạng mục cần kiểm tra tiếp theo và chuẩn bị, xác minh phương án khắc phục. Kỹ sư vẫn chịu trách nhiệm đưa ra quyết định và triển khai thực tế.

Công ty cho biết độ trễ đã giảm trong quá trình quan sát tín hiệu, kiểm tra giả thuyết và lựa chọn bước xử lý tiếp theo. Tuy nhiên, OpenAI chưa đưa ra số liệu so sánh tổng thời gian điều tra sự cố trước và sau khi sử dụng. Tốc độ đầu ra tối đa không đồng nghĩa thời gian điều tra sự cố cũng giảm theo cùng tỷ lệ.

Ngày 18 tháng 8 năm 2026, tại một sự kiện của Cerebras, Thibault Imbert, người phụ trách sản phẩm cốt lõi và nền tảng tại OpenAI, cho biết: “Chúng tôi dành Ultrafast cho các sự cố, sự cố bảo mật và những dự án có mức độ ưu tiên cao”. Phát biểu cho thấy công ty ưu tiên phân bổ năng lực xử lý cho các công việc này.

Cũng tại sự kiện, một diễn giả chưa xác định danh tính cho biết thời gian thu thập, sắp xếp, chuẩn hóa dữ liệu và bổ sung ngữ cảnh đôi khi giảm từ 1–2 giờ xuống còn 10–15 phút. Công việc cụ thể của diễn giả và phương pháp đo lường chưa được xác nhận.

OpenAI cũng nêu nghiên cứu tài chính, phân tích bảo mật, hỗ trợ khách hàng, thương mại, nghiên cứu và thử nghiệm là những trường hợp có thể dùng Ultrafast. Đây là các ví dụ do công ty đưa ra; chưa có số liệu đo lường độc lập về hiệu quả trong từng lĩnh vực.

Việc vẫn để con người đưa ra quyết định cuối cùng khi dùng AI ứng phó sự cố tương đồng với khuyến nghị về sử dụng tác nhân AI trong các chương trình bảo mật doanh nghiệp mà TokenPost từng đưa tin. Thông báo lần này không đề cập trường hợp áp dụng Ultrafast cho hạ tầng tài sản mã hóa hay kết quả ứng phó sự cố trong lĩnh vực này.

Khi được công bố vào tháng 8, Ultrafast trên GPT-5.6 Sol mới ở giai đoạn xem trước dành cho một số khách hàng. Hiện tài liệu dành cho nhà phát triển của OpenAI cho biết Ultrafast được cung cấp cho tất cả người dùng API trên GPT-6 Astra và GPT-6.1 Sol. Hai mô hình này áp dụng giới hạn sử dụng riêng, bên cạnh các chế độ Standard và Fast.

TokenPost trước đó đã đưa tin về việc Ultrafast được triển khai dần trên GPT-6.1 Sol và mức phí áp dụng.