Hiệu quả gấp 1,9 lần, chip AI OpenAI có thể phụ thuộc HBM4 Samsung

Chip suy luận AI Jalapeño do OpenAI(OpenAI) tự phát triển vừa cho thấy hiệu suất điện năng cao hơn và độ trễ thấp hơn so với các hệ thống so sánh trong một bài kiểm tra hiệu năng công khai. Tuy nhiên, giới phân tích cho rằng ở giai đoạn triển khai quy mô lớn, cấu trúc nguồn cung chip nhớ HBM4 của Samsung Electronics có thể là yếu tố quyết định tốc độ mở rộng.

Trong báo cáo kỹ thuật công bố ngày 25, OpenAI cho biết trong bài kiểm tra chuẩn công khai InferenceX, Jalapeño xử lý được khối lượng công việc AI trên mỗi watt cao hơn 1,5-1,9 lần so với các hệ thống so sánh, khi thử nghiệm trên các mô hình GPT-OSS 120B, DeepSeek R1 và Kimi K2.5 1T. Độ trễ đầu-cuối (end-to-end) giảm 1,7-3,6 lần. Công suất định mức của chip đạt 700 watt, còn công suất duy trì trong quá trình thử nghiệm ở mức dưới 550 watt, theo công ty này.

Jalapeño là chip chuyên dụng cho suy luận AI, được OpenAI phát triển cùng Broadcom(AVGO). Thay vì phục vụ việc huấn luyện mô hình mới, sản phẩm này tập trung xử lý các phép tính cần thiết khi đưa mô hình ngôn ngữ lớn đã huấn luyện vào vận hành dịch vụ thực tế.

Kết quả kiểm tra lần này cho thấy trọng tâm cạnh tranh chất bán dẫn AI đang mở rộng từ chip huấn luyện sang chip suy luận. Ở giai đoạn xử lý yêu cầu thực tế của người dùng trong các dịch vụ AI tạo sinh, tốc độ phản hồi và hiệu suất điện năng ảnh hưởng trực tiếp đến cấu trúc chi phí.

Vấn đề then chốt nằm ở bộ nhớ. Theo BlockBeats, nhà phân tích Jukan Citrini nhận định khả năng mở rộng của Jalapeño gắn liền với cấu trúc nguồn cung HBM4 của Samsung Electronics.

Ông cho rằng nếu Jalapeño gần như phụ thuộc hoàn toàn vào HBM4 của Samsung Electronics, việc mở rộng sản xuất có thể gặp giới hạn nhất định. Chuyên gia này phân tích rằng để tăng quy mô triển khai, OpenAI có thể cân nhắc hạ một số yêu cầu kỹ thuật như tốc độ truyền dữ liệu của HBM4, nhằm sử dụng thêm sản phẩm HBM4 từ các nhà cung cấp khác.

HBM là bộ nhớ băng thông cao được đặt cạnh chip xử lý AI để trao đổi lượng lớn dữ liệu với tốc độ cao. Dù hiệu năng chip xử lý được cải thiện, nếu nguồn cung và thông số bộ nhớ không đáp ứng kịp, tốc độ triển khai thực tế tại trung tâm dữ liệu vẫn có thể bị chậm lại.

Số liệu hiệu năng mà OpenAI công bố phản ánh hiệu quả của bản thân con chip. Nhưng việc triển khai tại trung tâm dữ liệu không chỉ phụ thuộc vào thiết kế chip, mà còn đòi hỏi sự phối hợp đồng bộ giữa bộ nhớ, đóng gói (packaging), cấu hình máy chủ và hạ tầng điện năng.

Với thị trường bán dẫn, câu chuyện này không chỉ dừng ở cuộc đua hiệu năng giữa OpenAI và Nvidia(NVDA). Việc HBM4 của Samsung Electronics được nhắc đến như linh kiện cốt lõi cho việc mở rộng Jalapeño cho thấy chuỗi cung ứng bộ nhớ Hàn Quốc đang ở giữa tâm điểm cuộc cạnh tranh hạ tầng AI.

TokenPost từng đưa tin về cấu trúc trong đó đầu tư trung tâm dữ liệu AI gắn liền cùng lúc với chất bán dẫn, năng lượng và tài chính. Cuộc tranh luận về Jalapeño lần này cũng nằm trong dòng chảy đó, khi câu chuyện chuyển từ công bố hiệu năng sang việc xem xét năng lực triển khai thực tế.

Tuy nhiên, kết quả từ bài kiểm tra chuẩn công khai không đồng nghĩa với quy mô triển khai thương mại thực tế. Điều kiện so sánh có thể khác với môi trường vận hành trung tâm dữ liệu thực tế, và mức độ phụ thuộc vào một nhà cung cấp cụ thể cũng có thể thay đổi tùy theo chiến lược thu mua trong tương lai.

Trong quá trình mở rộng sắp tới, bên cạnh số liệu hiệu năng đã công bố, việc thu mua HBM4, điều chỉnh thông số kỹ thuật và khả năng sử dụng nhiều nhà cung cấp cùng lúc sẽ là những chỉ báo cần theo dõi.