HBM4E 8 lớp, tốc độ 17-18Gbps: Samsung đáp ứng chuẩn Nvidia(NVDA)

Samsung Electronics(005930) đang thúc đẩy phát triển HBM4E 8 lớp để đáp ứng nhu cầu bộ nhớ băng thông rộng (HBM) tùy chỉnh của Nvidia(NVDA). Tốc độ mục tiêu được đưa ra là 17-18Gbps, cao hơn khoảng 20% so với tốc độ mẫu HBM4E ban đầu mà Samsung Electronics(005930) từng công bố.

Nhà phân tích Jukan Citrini cho biết trong một báo cáo phân tích rằng Samsung Electronics(005930) đang phát triển sản phẩm HBM4E 8 lớp - bộ nhớ băng thông rộng thế hệ thứ 7 - theo đúng thông số kỹ thuật mà Nvidia(NVDA) yêu cầu. Trong khi dòng sản phẩm hiện tại vẫn tập trung vào cấu hình 12 lớp và 16 lớp, sản phẩm 8 lớp được nhắc đến như một lựa chọn riêng, cho thấy cuộc đua bộ nhớ AI thế hệ mới đang mở rộng trọng tâm từ việc tăng số lớp xếp chồng sang thiết kế tùy chỉnh theo hệ thống.

Nvidia(NVDA) thông báo trên blog chính thức ngày 26 (giờ địa phương) rằng công ty sẽ bổ sung công nghệ NVHBM vào NVLink Fusion. NVHBM là cấu trúc tích hợp bộ điều khiển bộ nhớ vào đế nền (base die) của HBM, thay vì đặt trên đế XPU như trước.

Theo Nvidia(NVDA), cấu trúc này có thể tăng băng thông bộ nhớ tối đa 30% so với HBM4E tiêu chuẩn, đồng thời giảm 15% mức tiêu thụ điện năng của HBM. Công ty cũng cho biết diện tích đế tính toán XPU có thể được mở rộng thêm tối đa 25%.

HBM là bộ nhớ hiệu năng cao, xếp chồng nhiều lớp DRAM theo chiều dọc để tăng băng thông xử lý dữ liệu. Số lớp xếp chồng càng nhiều thì dung lượng càng lớn, nhưng việc kiểm soát nhiệt và độ khó của công đoạn hậu kỳ cũng tăng theo.

Sản phẩm 8 lớp có thể giảm bớt áp lực xếp chồng so với sản phẩm 12 lớp và 16 lớp. Giới phân tích nhận định rằng trong các bộ tăng tốc AI hiệu năng cao, cấu hình xếp chồng thấp hơn cũng có thể trở thành lựa chọn chiến lược, bởi cần cân bằng đồng thời cả dung lượng bộ nhớ lẫn điện năng, nhiệt độ, tỷ lệ sản phẩm đạt chuẩn và độ ổn định nguồn cung.

Samsung Electronics(005930) cho biết trên trang tin tức chính thức ngày 29 tháng 5 rằng công ty đã bắt đầu cung cấp mẫu HBM4E 12 lớp cho các khách hàng toàn cầu. Sản phẩm này có dung lượng 48GB, tốc độ ổn định 14Gbps và tốc độ mở rộng tối đa 16Gbps.

Samsung Electronics(005930) cũng cho biết có kế hoạch mở rộng dòng sản phẩm HBM4E thành phiên bản 32GB 8 lớp và 64GB 16 lớp tùy theo yêu cầu của khách hàng. TokenPost từng đưa tin Samsung Electronics có kế hoạch mở rộng dòng sản phẩm HBM4E thành phiên bản 8 lớp 32GB và 16 lớp 64GB.

Điểm mạnh mà Samsung Electronics(005930) nhấn mạnh là cấu trúc sản xuất kết hợp cả DRAM và đế nền logic. Công ty cho biết đã áp dụng quy trình DRAM 1c cùng đế nền logic dựa trên công nghệ đúc bán dẫn (foundry) 4nm cho HBM4E.

Trong cấu trúc mà tỷ trọng thiết kế đế nền ngày càng lớn như NVHBM, năng lực kết hợp giữa công đoạn bộ nhớ và logic có thể trở nên quan trọng hơn. Nếu trước đây cuộc đua HBM xoay quanh số lớp xếp chồng và dung lượng, thì với HBM tùy chỉnh, việc thiết kế và kiểm chứng đế nền theo cấu trúc hệ thống của từng khách hàng có thể chiếm tỷ trọng lớn hơn.

Nhà phân tích Jukan Citrini cho biết Samsung Electronics(005930) đang phát triển sản phẩm HBM4E 8 lớp theo yêu cầu của Nvidia(NVDA), và Nvidia(NVDA) đã yêu cầu tốc độ 17-18Gbps trên mỗi chân (pin). Tuy nhiên, giới quan sát cho rằng vẫn còn điều chưa chắc chắn về việc liệu HBM4E có được cung cấp theo hướng tập trung vào cấu hình 8 lớp hay không.

Cấu hình HBM nào sẽ được áp dụng cho sản phẩm thế hệ mới của Nvidia(NVDA) hiện vẫn khó có thể xem là đã được xác định. TokenPost từng đưa tin rằng thông số kỹ thuật cuối cùng và thời điểm áp dụng của Rubin Ultra cần được xác nhận qua công bố chính thức từ Nvidia(NVDA).

Nvidia(NVDA) cho biết sẽ biến NVHBM thành một cấu trúc triển khai tiêu chuẩn, được nhiều nhà cung cấp bộ nhớ kiểm chứng và cung cấp. Đối tác hợp tác đầu tiên được nêu tên là Annapurna Labs, công ty con của Amazon.

Việc Samsung Electronics(005930) phát triển HBM4E 8 lớp được nhìn nhận trong bối cảnh xu hướng bộ nhớ tùy chỉnh mà Nvidia(NVDA) đang thúc đẩy. Quy mô cung cấp thực tế và thời điểm áp dụng cụ thể dự kiến sẽ rõ ràng hơn sau khi Nvidia(NVDA) và các khách hàng hoàn tất thông số kỹ thuật cuối cùng.