SK Telecom, NVIDIA và Rebellions ký MOU phát triển hệ thống GPU-NPU

SK Telecom (SK텔레콤; mã cổ phiếu 017670), NVIDIA (NVDA) và Rebellions ký biên bản ghi nhớ (MOU) để phát triển hệ thống điện toán AI kết nối GPU với NPU. Ba công ty dự định phân chia việc phân tích câu hỏi và tạo câu trả lời cho các bộ xử lý khác nhau, sau đó kiểm chứng hệ thống tại trung tâm dữ liệu AI của SK Telecom.

SK Telecom công bố thỏa thuận ngày 9, tại sự kiện NVIDIA AI Day Seoul ở COEX, Seoul. MOU tập trung vào phát triển và kiểm chứng hệ thống; việc lắp đặt tại trung tâm dữ liệu hay đưa vào dịch vụ thương mại chưa hoàn tất.

Ba công ty dự định dùng NVLink Fusion của NVIDIA làm công nghệ kết nối, đưa NPU Rebel R200 đang được Rebellions phát triển vào nền tảng NVIDIA. Họ cũng sẽ áp dụng tiêu chuẩn thiết kế giá đỡ máy chủ MGX của NVIDIA để kết hợp GPU và NPU ở cấp độ rack. NVLink Fusion mở rộng công nghệ NVLink vốn dùng để truyền dữ liệu giữa các GPU, cho phép kết nối thêm chip AI của các nhà sản xuất khác.

Trong quá trình suy luận, GPU của NVIDIA được thiết kế để đảm nhiệm bước “prefill”, tức phân tích câu hỏi; NPU của Rebellions sẽ đảm nhiệm bước “decode”, tạo câu trả lời theo thứ tự. SK Telecom cho biết prefill cần nhiều năng lực tính toán, còn decode đòi hỏi khả năng truy xuất dữ liệu nhanh từ bộ nhớ. Ba công ty đặt mục tiêu cải thiện tốc độ xử lý và hiệu quả sử dụng điện bằng cách phân chia nhiệm vụ.

Theo phân công, Rebellions phát triển NPU, NVIDIA cung cấp công nghệ kết nối chip và tiêu chuẩn thiết kế rack, còn SK Telecom dự định thử nghiệm hiệu năng và độ ổn định tại trung tâm dữ liệu AI của mình. Sau đó, các bên sẽ xem xét khả năng ứng dụng vào dịch vụ thực tế và thương mại hóa.

Jeong Seok-geun (정석근), Giám đốc công nghệ (CTO) kiêm Giám đốc AI CIC của SK Telecom, nói: “Thỏa thuận có ý nghĩa trong việc kiểm chứng tiềm năng của hạ tầng AI chủ quyền kiểu Hàn Quốc”. Hợp tác tập trung đánh giá tiềm năng này thông qua phát triển hệ thống và thử nghiệm tại trung tâm dữ liệu. SK Telecom cho biết dự định kết nối mô hình AI riêng A.X K2 và các dịch vụ liên quan đến “AI của mọi người” vào hệ thống tích hợp.

Trong thông cáo chính thức ngày 9, NVIDIA dự kiến hệ thống R200 của Rebellions sẽ sẵn sàng để triển khai vào năm 2028.