OpenAI công bố kết quả kiểm nghiệm chip Jalapeño, vẫn dùng song song Nvidia(NVDA)

OpenAI vừa công bố kết quả kiểm nghiệm hiệu năng của Jalapeño, chip suy luận AI tự phát triển cùng Broadcom(AVGO). Công ty nhấn mạnh những cải thiện về hiệu suất điện năng và tốc độ phản hồi, đồng thời khẳng định vẫn tiếp tục dùng song song bộ tăng tốc của Nvidia(NVDA) cho cả huấn luyện lẫn suy luận.

Trong báo cáo kỹ thuật công bố ngày 25, OpenAI cho biết Jalapeño xử lý được nhiều tác vụ AI hơn trên mỗi đơn vị điện năng, đồng thời tăng tốc độ phản hồi. Bài kiểm nghiệm được thực hiện trên InferenceX, benchmark công khai do SemiAnalysis xây dựng.

Ba mô hình được đưa vào thử nghiệm là GPT-OSS 120B, DeepSeek R1 670B và Kimi K2.5 1T. OpenAI cho biết công suất định mức của Jalapeño là 700W, trong khi công suất duy trì thực tế trong quá trình thử nghiệm ở mức dưới 550W.

Ở bài thử với Kimi, hiệu suất điện năng đỉnh của Jalapeño cao hơn khoảng 1,5 lần so với hệ thống đối chứng, còn độ trễ đầu-cuối thấp hơn tới 3,4 lần. Trước đó, hiệu năng chip suy luận tự phát triển của OpenAI cùng biến số nguồn cung HBM cũng từng được đề cập.

Jalapeño là chip dành cho suy luận (inference), không phải huấn luyện (training). Suy luận là quá trình mô hình AI đã huấn luyện xong đưa ra câu trả lời cho yêu cầu người dùng. Với các dịch vụ như ChatGPT, việc giảm độ trễ phản hồi và mức tiêu thụ điện ảnh hưởng trực tiếp đến chi phí vận hành lẫn chất lượng dịch vụ.

OpenAI cho biết công ty đã thiết kế đồng bộ chip, bộ nhớ, mạng, phần mềm và hệ thống cấp rack. Điều này phản ánh xu hướng các hãng AI lớn không chỉ tối ưu mô hình mà còn muốn kiểm soát cả phần cứng lẫn vận hành trung tâm dữ liệu.

Hồi tháng 6, Broadcom cùng OpenAI công bố Jalapeño, gọi đây là bộ tăng tốc suy luận tùy biến đầu tiên của OpenAI. Khi đó, hai bên mô tả Jalapeño là bước đi quan trọng trong chiến lược full-stack đứng sau các mô hình và sản phẩm của OpenAI.

CNBC nhận định thông tin lần này có thể củng cố thêm niềm tin vào dự báo doanh thu AI hơn 100 tỷ USD trong năm tài chính 2027 của Broadcom. Tuy vậy, hãng tin cũng lưu ý áp lực chính trị xoay quanh việc xây dựng trung tâm dữ liệu và tốc độ mở rộng doanh thu thực tế của Broadcom vẫn là những biến số riêng.

Với Nvidia, câu chuyện mang ý nghĩa khác. Việc chip tùy biến trở thành một lựa chọn của các hãng AI lớn làm dấy lên thêm câu hỏi về cấu trúc hạ tầng AI vốn xoay quanh GPU. Dù vậy, trong cùng báo cáo, OpenAI khẳng định "sẽ tiếp tục triển khai rộng rãi bộ tăng tốc của Nvidia và các đối tác khác cho cả tác vụ huấn luyện lẫn suy luận".

Vì vậy, Jalapeño được xem là trục mua sắm bổ sung hơn là sản phẩm thay thế Nvidia. Với các hãng AI, việc kết hợp GPU đa dụng, chip ASIC tùy biến và hợp đồng trung tâm dữ liệu dài hạn để cân đối chi phí và hiệu năng đang trở thành lựa chọn thực tế hơn.

Hợp tác hạ tầng giữa Nvidia và OpenAI cũng vẫn tiếp diễn. Nvidia cho biết sẽ cung cấp khoản hỗ trợ tín dụng lên tới 105 tỷ USD cho dự án trung tâm dữ liệu quy mô lớn của OpenAI tại bang Ohio, Mỹ, và toàn bộ dự án này sẽ chỉ sử dụng năng lực tính toán của Nvidia.

Dự án này gắn với khuôn viên công nghệ PORTS-Pike của SB Energy tại Ohio. OpenAI là khách hàng công suất 8 IT-GW của dự án, còn SB Energy xây dựng và vận hành trung tâm dữ liệu theo cơ cấu thuê 20 năm.

OpenAI cho biết sẽ bắt đầu triển khai Jalapeño vào hạ tầng điện toán của chính công ty từ nay đến cuối năm. Công ty cho biết vẫn đang tiếp tục kiểm chứng khả năng sản xuất, độ hoàn thiện của phần mềm, mức độ sẵn sàng cho vận hành quy mô lớn, cũng như kiểm chứng thêm nhiều mô hình khác.

Tác động thực sự đến Nvidia sẽ chỉ có thể đánh giá sau khi biết được quy mô triển khai thực tế của Jalapeño và tốc độ phát triển chip thế hệ kế tiếp. CEO của Nvidia dự kiến sẽ nhận được câu hỏi về cuộc cạnh tranh chip tùy biến trong buổi công bố kết quả kinh doanh sau khi thị trường Mỹ đóng cửa ngày 26.