SK Hynix mở rộng công nghệ CPO sang cả bộ nhớ AI

SK Hynix vừa công bố lộ trình công nghệ quang học đóng gói đồng bộ (Co-Packaged Optics, CPO) thế hệ mới, nhắm tới việc giảm nghẽn truyền dữ liệu trong hạ tầng trí tuệ nhân tạo (AI).

Theo tờ Kechuangban Ribao (科创板日报) đưa tin ngày 20 (giờ địa phương), SK Hynix cùng nhóm nghiên cứu tại Đại học Virginia (University of Virginia) và một số đơn vị khác đã công bố bài báo chung trên tạp chí khoa học Nature Electronics. Bài báo đề cập hướng phát triển của công nghệ CPO trong lĩnh vực điện toán hiệu năng cao và AI.

Vấn đề cốt lõi được nêu ra là khoảng cách giữa tốc độ tăng hiệu năng tính toán và khả năng di chuyển dữ liệu. Theo bài báo, hiệu năng tính toán tăng gấp 3 lần mỗi hai năm, trong khi băng thông kết nối liên thiết bị chỉ tăng khoảng 1,4 lần trong cùng khoảng thời gian.

Khi quy mô mô hình AI và trung tâm dữ liệu ngày càng lớn, chỉ cải thiện hiệu năng của bản thân chip xử lý không đủ để nâng tốc độ xử lý tổng thể. Nhóm nghiên cứu gọi hiện tượng này là “bức tường băng thông”.

CPO là công nghệ đặt linh kiện quang học sát gần chip hoặc package nhằm rút ngắn quãng đường di chuyển của dữ liệu. Cách kết nối truyền thống dựa trên tín hiệu điện đang dần chạm giới hạn về tốc độ và hiệu suất điện năng, nên việc đưa kết nối quang vào bên trong và xung quanh package được xem là một hướng thay thế cho hạ tầng AI.

Điểm đáng chú ý của lộ trình lần này là CPO không chỉ dừng ở kết nối quanh switch hay bộ tăng tốc (accelerator) như trước, mà được mở rộng sang cả giao diện bộ nhớ. Nếu việc Nvidia sản xuất hàng loạt switch CPO và mở rộng chuỗi cung ứng trước đó chủ yếu nổi bật ở khâu thiết bị mạng, thì bài báo lần này mở rộng phạm vi thảo luận sang cả cấu trúc kết nối bộ nhớ.

Ở giai đoạn xa hơn, nhóm nghiên cứu đề xuất mô hình nhiều bộ tăng tốc AI cùng chia sẻ chung một vùng nhớ (memory pool), thay vì mỗi bộ tăng tốc chỉ sử dụng phần bộ nhớ cố định riêng. Theo nhóm nghiên cứu, cách làm này có thể nâng hiệu quả sử dụng bộ nhớ.

Tuy vậy, đây mới là lộ trình công nghệ được trình bày qua một bài báo khoa học, chưa phải kế hoạch sản xuất hàng loạt hay lịch trình thương mại hóa cụ thể.

Kechuangban Ribao cho biết đây là lần đầu tiên SK Hynix công bố bản thiết kế kiến trúc kết nối AI (AI interconnect) trên một tạp chí khoa học ở tầm mức này. Việc một doanh nghiệp bộ nhớ đưa vấn đề di chuyển dữ liệu trong hệ thống AI thành chủ đề kỹ thuật công khai cũng là điểm được giới quan sát chú ý.

Trong ngành bán dẫn, nghẽn hạ tầng AI thường được nhìn nhận là vấn đề đan xen giữa tài nguyên tính toán, dung lượng bộ nhớ, hiệu suất điện năng và tốc độ kết nối giữa các thiết bị. CPO được xếp vào nhóm công nghệ nhắm tới giảm hao hụt và độ trễ ở khâu dữ liệu di chuyển.

Lộ trình lần này cho thấy SK Hynix không chỉ dừng ở vai trò cung cấp bộ nhớ, mà đang tham gia sâu hơn vào bài toán di chuyển dữ liệu trong kiến trúc hệ thống AI. Tác động thực tế của CPO tới chi phí, mức tiêu thụ điện năng và hiệu suất sử dụng bộ nhớ của hạ tầng AI vẫn là điều cần được kiểm chứng ở các bước triển khai sau bài báo này.