NVIDIA công bố 2 hướng viết kernel GPU bằng Rust

NVIDIA($NVDA) đã công bố hai hướng phát triển cho phép viết kernel GPU bằng Rust. Trước đây, Rust có thể gọi CUDA kernel, nhưng bản thân kernel chủ yếu vẫn phải được viết bằng các ngôn ngữ khác như CUDA C++.

NVIDIA giới thiệu cuda-oxide và cutile-rs trong một bài đăng trên blog kỹ thuật ngày 8 tháng 9. Hai dự án phát triển CUDA dựa trên Rust này cung cấp lộ trình kết nối mã Rust với các kernel chạy trực tiếp trên GPU, sau đó biên dịch sang PTX, ngôn ngữ cấp thấp dành cho GPU NVIDIA.

Kernel GPU là mã lệnh tính toán được thực thi trực tiếp trên GPU. NVIDIA giới thiệu Rust như một phương tiện thu hẹp khoảng cách giữa phần mềm hệ thống AI và hoạt động tính toán GPU.

cuda-oxide tương thích với mô hình lập trình SIMT của CUDA. Nhà phát triển viết nhiệm vụ cho một luồng, sau đó GPU thực thi nhiệm vụ đó trên nhiều luồng. Cách tiếp cận này cho phép quản lý trực tiếp luồng và bộ nhớ chia sẻ.

cutile-rs hỗ trợ mô hình lập trình Tile. Nhà phát triển viết các phép tính theo từng khối dữ liệu, còn trình biên dịch quyết định cách bố trí luồng và cấu trúc bộ nhớ thực tế.

NVIDIA khuyến nghị ưu tiên mô hình Tile vì cách này có thể giảm nhu cầu tinh chỉnh theo từng kiến trúc. Tuy nhiên, SIMT phù hợp hơn trong những trường hợp cần kiểm soát trực tiếp luồng và bộ nhớ chia sẻ.

Điểm cốt lõi của hai dự án là áp dụng các quy tắc sở hữu của Rust vào hoạt động tính toán GPU. Những mã lệnh xử lý sai cùng một vùng nhớ giữa nhiều luồng hoặc đồng thời sử dụng một bộ đệm đầu ra làm đầu vào và đầu ra có thể bị phát hiện dưới dạng lỗi biên dịch trước khi thực thi.

cuda-oxide hiện vẫn ở giai đoạn alpha ban đầu. Dự án yêu cầu một bộ công cụ Rust nightly cố định, đồng thời hiện cần mã unsafe để sử dụng bộ nhớ chia sẻ.

cutile-rs hoạt động trên phiên bản Rust ổn định và đã được sử dụng trong công cụ suy luận Grout của Hugging Face cùng mistral.rs. Tuy nhiên, API có thể thay đổi và phạm vi hỗ trợ vẫn chưa hoàn thiện.

Ankit Patel, Phó Chủ tịch phụ trách hệ sinh thái nhà phát triển của NVIDIA, cho biết công ty sẽ hỗ trợ các nhà phát triển Rust xây dựng ứng dụng trên toàn bộ nền tảng CUDA, từ CPU đến GPU. Động thái này cho thấy NVIDIA muốn mở rộng phạm vi sử dụng Rust trên toàn nền tảng, thay vì chỉ giới hạn ở CUDA kernel.

Ngày 9 tháng 9, NVIDIA cùng Solana Foundation trở thành thành viên bạch kim của Rust Foundation. Rust Foundation công bố việc hai tổ chức gia nhập tại lễ khai mạc RustConf 2026.

Phí thành viên bạch kim là 325.000 USD (khoảng 448,83 triệu won) mỗi năm và đi kèm một ghế trong hội đồng quản trị. Rust Foundation cho biết Rust đang giữ vai trò then chốt trong hệ sinh thái Solana và hạ tầng AI.

Thông báo lần này cho thấy không chỉ hiệu năng GPU mà cả ngôn ngữ lập trình và hệ sinh thái công cụ cũng ảnh hưởng đến sức cạnh tranh của CUDA. NVIDIA đang đưa ra lộ trình kết nối các ngôn ngữ bên ngoài với môi trường phát triển CUDA, thay vì để chúng tồn tại như những hệ sinh thái tách biệt.

Trước đó, gói mã nguồn mở chạy CUDA trên card đồ họa của AMD chỉ dừng ở việc kiểm chứng khả năng tương thích với phần cứng và thư viện hạn chế. Thông báo lần này là một ví dụ riêng biệt về việc NVIDIA mở rộng lựa chọn ngôn ngữ trong hệ sinh thái CUDA, không đồng nghĩa với việc mở rộng khả năng tương thích phần cứng.

CUDA Rust hiện chưa phải công cụ hoàn thiện có thể triển khai ngay cho các dịch vụ thương mại. Tuy nhiên, việc mở rộng ngôn ngữ viết GPU kernel sang Rust đã bổ sung thêm một lựa chọn để các nhà phát triển hạ tầng AI và blockchain tiếp cận môi trường CUDA.