Flash băng thông cao 512GB xuất hiện, được giới thiệu là công nghệ bổ trợ HBM

SK Hynix và SanDisk (SNDK) vừa công bố bộ tiêu chuẩn đầu tiên cho công nghệ flash băng thông cao (HBF - High Bandwidth Flash) với dung lượng tối đa lên tới 512GB, nhắm thẳng vào điểm nghẽn bộ nhớ trong hạ tầng suy luận trí tuệ nhân tạo (AI).

SK Hynix cho biết vào ngày 4, hãng đã cùng SanDisk công bố tiêu chuẩn HBF đầu tiên thông qua Dự án Điện toán Mở (OCP - Open Compute Project). Thông tin được đưa ra đúng thời điểm sự kiện Future of Memory and Storage 2026 (FMS 2026) khai mạc tại Trung tâm hội nghị Santa Clara, bang California, Mỹ, diễn ra từ ngày 5 đến ngày 7 theo giờ Hàn Quốc.

HBF là lớp bộ nhớ dựa trên công nghệ NAND, nằm giữa bộ nhớ băng thông cao (HBM) và ổ cứng thể rắn (SSD). Công nghệ này hướng tới việc trao đổi dữ liệu nhanh gần với bộ xử lý giống HBM, đồng thời tận dụng khả năng mở rộng dung lượng vốn là thế mạnh của NAND.

Trong quá trình suy luận AI, các dữ liệu như mô hình, dữ liệu tạo sinh tăng cường truy xuất (RAG), dữ liệu người dùng và bộ nhớ đệm khóa-giá trị (KV cache) thường xuyên được đọc lặp lại. Do không thể đưa toàn bộ dữ liệu này lên HBM, nhu cầu về một lớp bộ nhớ trung gian dung lượng lớn hơn, đặt gần bộ xử lý, đã tăng lên đáng kể.

Bộ tiêu chuẩn đầu tiên xác định dung lượng tối đa 512GB, dựa trên hai cấu hình xếp chồng die NAND theo 8 lớp và 16 lớp. Băng thông được chia thành ba cấp độ, hỗ trợ từ khoảng 0,4TB/giây đến 3,0TB/giây.

Phương thức kết nối giữa HBF và bộ xử lý sử dụng chuẩn UCIe (Universal Chiplet Interconnect Express) - một giao diện mở dùng để kết nối tốc độ cao giữa các chiplet bán dẫn khác nhau.

Tiêu chuẩn lần này bao gồm các nội dung về giao diện kết nối, đặc tính điện, hướng dẫn về độ tin cậy và đóng gói cho quy trình xếp chồng die HBF, cũng như hướng dẫn phần mềm cho việc xuất nhập dữ liệu. Trong thông báo ngày 3, SanDisk cho biết bộ tiêu chuẩn này cung cấp một khung kỹ thuật chung cho các công ty thiết kế hệ thống suy luận AI và bộ tăng tốc để áp dụng HBF.

Google (GOOGL) và Tenstorrent cũng tham gia với tư cách thành viên trong liên minh xây dựng tiêu chuẩn. SK Hynix và SanDisk khởi động nhóm làm việc tiêu chuẩn hóa HBF dưới OCP từ tháng 2, và đưa ra bộ quy cách kỹ thuật đầu tiên chỉ sau khoảng 6 tháng.

OCP là một liên minh mở, nơi các bên thảo luận về tiêu chuẩn phần cứng và hạ tầng trung tâm dữ liệu. Việc quy cách HBF được công bố thông qua OCP cho thấy công nghệ này đã bước sang giai đoạn được xem xét như một tiêu chuẩn chung trong toàn bộ hệ sinh thái máy chủ, bộ tăng tốc và bộ nhớ, thay vì chỉ là công nghệ riêng của một doanh nghiệp.

Bài viết này tập trung vào phạm vi ứng dụng của HBF cũng như các điểm so sánh với HBM được đưa ra tại FMS 2026. Những thông tin cốt lõi đã được đề cập trong bài viết trước gồm dung lượng tối đa 512GB, băng thông khoảng 0,4-3,0TB/giây và phương thức kết nối dựa trên UCIe.

Tại FMS 2026, HBF được giới thiệu không phải là công nghệ thay thế trực tiếp HBM, mà là công nghệ bổ trợ cho cấu trúc bộ nhớ dùng trong suy luận AI. SanDisk giải thích rằng HBF có thể được sử dụng song song với HBM ở những khu vực cần dung lượng bộ nhớ gần lớn hơn và băng thông cao hơn.

Điều này có liên hệ trực tiếp với thị trường HBM - lĩnh vực mà các doanh nghiệp bộ nhớ Hàn Quốc đang có thế mạnh. HBM đã trở thành linh kiện cốt lõi quyết định hiệu năng của bộ tăng tốc AI, còn HBF được bàn tới như một trục bổ trợ, tận dụng công nghệ nền NAND để mở rộng cấu trúc xử lý dữ liệu phục vụ suy luận.

Trước đó, TokenPost từng đưa tin rằng buổi trình diễn HBF của SanDisk đã gây tranh cãi xoay quanh điều kiện so sánh với HBM. Tách biệt khỏi ý nghĩa kỹ thuật của HBF, việc xác định tiêu chí nào sẽ được dùng để so sánh HBM và HBF trong các trung tâm dữ liệu AI thực tế có thể trở thành điểm mấu chốt trong các thảo luận về việc áp dụng công nghệ này sau này.

Trong thông báo chính thức, SK Hynix cũng công bố wafer và sản phẩm NAND 4D thế hệ thứ 10 (V10) với 375 lớp, cho biết hiệu năng trên mỗi watt điện đã tăng 2,5 lần so với thế hệ trước. Công ty cho biết dự kiến bắt đầu sản xuất hàng loạt sản phẩm eSSD hiệu năng cao, dung lượng lớn dựa trên công nghệ này vào đầu năm sau.

Kim Chun-sung (Kim Chun-sung), Giám đốc phụ trách phát triển giải pháp của SK Hynix, nhận định: “Khi việc ứng dụng AI lan rộng nhanh chóng, đây là thời điểm cần tái thiết kế toàn bộ cấu trúc xử lý dữ liệu”, đồng thời cho biết thêm hãng sẽ “góp phần mở rộng ranh giới giữa bộ nhớ và lưu trữ thông qua HBF, hiện thực hóa kiến trúc mới giúp nâng cao hiệu quả toàn hệ thống”. Phát biểu này cho thấy SK Hynix đặt kỳ vọng vào HBF như một hướng đi mở rộng vai trò của mình trong chuỗi cung ứng bộ nhớ AI.

Tuy nhiên, thông báo lần này chủ yếu mang tính chất công bố tiêu chuẩn mở và xây dựng hệ sinh thái, chứ chưa phải là việc sản phẩm thương mại được áp dụng thực tế. Vai trò cụ thể mà HBF sẽ đảm nhận giữa HBM và SSD còn tùy thuộc vào lựa chọn thiết kế của các doanh nghiệp bộ tăng tốc và nhà vận hành trung tâm dữ liệu.