Chip AI Jalapeño của OpenAI vượt GB300 của Nvidia(NVDA) trong thử nghiệm

Chip suy luận AI (AI inference chip) mang tên Jalapeño mà OpenAI(OpenAI) phát triển cùng Broadcom(AVGO) được cho là đã vượt qua chip Nvidia(NVDA) GB300 trong các bài kiểm tra về hiệu quả sử dụng điện năng và tốc độ phản hồi.

Bloomberg đưa tin OpenAI ghi nhận kết quả vượt trội hơn GB300 ở cả hai chỉ số trong bài kiểm tra Jalapeño, gồm khả năng xử lý trên mỗi đơn vị điện năng và tốc độ phản hồi. Jalapeño tiêu thụ khoảng 700 watt điện và được cho là chủ yếu dùng cho tác vụ suy luận AI (AI inference) thay vì huấn luyện mô hình (model training).

Trong bài kiểm tra công khai, OpenAI sử dụng mô hình mã nguồn mở quy mô nhỏ của chính mình cùng các mô hình bên thứ ba như DeepSeek(DeepSeek) và Kimi(Kimi) của Moonshot AI(Moonshot AI). Bloomberg cho biết khoảng cách hiệu năng thể hiện rõ rệt hơn khi thử nghiệm với mô hình Kimi.

Bloomberg cũng cho biết Jalapeño chưa được thử nghiệm với chip thế hệ kế tiếp Vera Rubin(Vera Rubin) của Nvidia, dòng chip mới chỉ bắt đầu xuất xưởng. OpenAI dự kiến bắt đầu sử dụng Jalapeño vào cuối năm nay, trong khi phiên bản chip thế hệ thứ hai đã bước vào giai đoạn phát triển sau và dự kiến hoàn tất tape-out trong vài tháng tới.