Trung tâm dữ liệu AI Hàn Quốc: Chuyển trọng tâm từ GPU sang hiệu quả vận hành

Phó Thủ tướng kiêm Bộ trưởng Khoa học và Công nghệ thông tin truyền thông Hàn Quốc Bae Kyung-hoon (Bae Kyung-hoon) cho biết trọng tâm xây dựng trung tâm dữ liệu trí tuệ nhân tạo (AI) cần được mở rộng, từ việc thu gom GPU ngoại nhập của một hãng cụ thể sang kết hợp các nguồn lực tính toán khác chủng loại.

Theo Yonhap Infomax đưa tin ngày 20 (giờ địa phương), ông Bae phát biểu tại buổi tọa đàm ngành mang tên 'Tọa đàm doanh nghiệp về xây dựng hệ sinh thái hạ tầng điện toán AI mở', tổ chức tại HJ Business Center Gwanghwamun, quận Jongno, Seoul: "Trong bối cảnh khối lượng công việc AI ngày càng đa dạng, các nguồn lực tính toán như CPU, GPU, NPU, DPU và bộ nhớ cần được kết hợp một cách hữu cơ để tối đa hóa hiệu quả vận hành".

Ông nói thêm: "Xây dựng trung tâm dữ liệu AI (DC) không chỉ đơn giản là chuẩn bị các giá đỡ máy chủ rồi lắp đặt GPU ngoại nhập của một hãng cụ thể như Nvidia(NVDA)". Bình luận này cho thấy quan điểm của ông: cuộc đua hạ tầng AI không nên chỉ nhìn vào số lượng thiết bị, mà cần được đánh giá dựa trên hệ thống vận hành phù hợp với dịch vụ thực tế và cơ cấu chi phí.

Trung tâm dữ liệu AI (AIDC) là loại hình trung tâm dữ liệu được trang bị thiết bị tính toán quy mô lớn cùng hệ thống điện và làm mát, phục vụ cho việc huấn luyện và suy luận các mô hình AI. Khi AI tạo sinh và AI tác tử (agentic AI) ngày càng phổ biến, nhu cầu suy luận tăng lên, khiến cấu trúc điện toán khác chủng loại - kết hợp CPU, GPU, NPU theo đặc tính từng dịch vụ - dần thay thế cấu trúc chỉ dựa vào GPU đơn lẻ.

Phó Thủ tướng Bae nhấn mạnh: "Vượt ra ngoài việc phát triển mô hình nền tảng đơn thuần, yếu tố cốt lõi là năng lực kết nối và vận hành thực tế các chipset và hạ tầng khác chủng loại". Ông cho biết thêm: "Khi công nghệ AI tác tử vận hành trên các mô hình ngày càng phát triển và thị trường suy luận mở rộng, chính phủ sẽ hỗ trợ toàn diện bằng chính sách nhằm tối ưu hóa kiến trúc để đáp ứng hiệu quả nhu cầu tính toán token đang tăng vọt".

AI tác tử là công nghệ AI có khả năng tự lập kế hoạch và thực hiện nhiều bước dựa trên chỉ dẫn của người dùng. Loại hình này thường đòi hỏi số lượt gọi suy luận và sử dụng công cụ nhiều hơn so với mô hình hội thoại thông thường, nên trung tâm dữ liệu không chỉ cần hiệu năng tính toán mà còn phải thiết kế đồng bộ băng thông bộ nhớ, mạng lưới và hiệu quả sử dụng điện.

Sự hợp tác giữa chính phủ Hàn Quốc và AMD(AMD) cũng nằm trong xu hướng này. Bộ Khoa học và Công nghệ thông tin truyền thông cùng AMD đã ký thỏa thuận hợp tác xây dựng hạ tầng điện toán AI vào tháng trước.

Tại buổi tọa đàm, Giám đốc Moon Kyung-sun (Moon Kyung-sun) của AMD Hàn Quốc trình bày kế hoạch phát triển kiến trúc AI khác chủng loại tích hợp, kết hợp NPU nội địa với CPU và GPU của AMD cùng nhiều nguồn lực điện toán AI khác. Bà Moon cho biết: "Mục tiêu cuối cùng là tạo ra một mô hình thành công tốt trong nước, từ đó mở rộng và ứng dụng thành kiến trúc chuẩn có sức cạnh tranh toàn cầu".

Cuộc thảo luận lần này diễn ra trong bối cảnh thị trường AIDC Hàn Quốc đang chuyển dịch, từ cuộc đua giành điện năng và mặt bằng sang cạnh tranh về hiệu quả vận hành. TokenPost trước đó đã đưa tin về kế hoạch SK Telecom mở rộng mảng kinh doanh AIDC thông qua SK Hyper.

Chính sách hạ tầng AI cấp chính phủ cũng đang được triển khai liên tục. TokenPost trước đó đã đưa tin về chiến lược đầu tư 20.000 tỷ won hợp tác công tư vào AI sản xuất đến năm 2030 của chính phủ Hàn Quốc.

Phó Thủ tướng Bae cũng đề cập đến kết quả đánh giá lần hai của dự án mô hình nền tảng AI tự chủ do chính phủ dẫn dắt (Dokpamo). Ông cho biết: "Trong đợt đánh giá lần hai vừa hoàn tất của dự án Dokpamo, các công ty khởi nghiệp đã thể hiện thành tích đáng chú ý, chứng minh được tiềm năng".

Ông giải thích rằng các định hướng chính sách cơ bản của chính phủ - gồm tái xây dựng 'cao tốc AI', xây dựng trung tâm dữ liệu AI và 3 dự án trọng điểm - đã được thiết lập và đang được triển khai thực chất. Ông nói thêm: "Giờ đây cần vượt qua cuộc đua các chỉ số benchmark đơn thuần, để tạo ra kết quả thực chất và mở rộng việc sử dụng AI trong đời sống của doanh nghiệp lẫn người dân".

Theo Phó Thủ tướng Bae, nền tảng 'Mọi người dùng AI' (모두의 AI) dự kiến được xây dựng vào cuối năm nay sẽ có sự tham gia đông đảo của các doanh nghiệp từng góp mặt trong dự án Dokpamo, tạo cơ hội để dịch vụ AI được phổ biến rộng rãi hơn. Thông điệp của chính phủ Hàn Quốc cho thấy tiêu chuẩn cạnh tranh AIDC đang dịch chuyển, từ số lượng GPU sang hiệu quả vận hành hạ tầng khác chủng loại và thiết kế hệ sinh thái.