Intel và AMD gom tối ưu hóa CPU x86 trên PyTorch về oneDNN

Intel(INTC) và AMD(AMD) sẽ gom các lộ trình phần mềm hỗ trợ CPU x86 của hai hãng trên PyTorch, công cụ phát triển AI, về một thư viện duy nhất là oneDNN. Đây là bước hợp tác nhằm giảm gánh nặng cho lập trình viên, vốn phải quản lý riêng đường tối ưu hóa cho từng nhà sản xuất bộ xử lý trung tâm (CPU).

Trong thông cáo ngày 20, Intel cho biết theo khuyến nghị của Nhóm cố vấn hệ sinh thái x86 (x86 Ecosystem Advisory Group), hai công ty sẽ chọn oneDNN làm thư viện mã nguồn mở mặc định để tăng tốc x86 trên PyTorch. AMD sẽ tích hợp phần tối ưu hóa ZenDNN của mình vào oneDNN và tham gia Quỹ UXL (UXL Foundation), tổ chức quản lý oneDNN, với tư cách thành viên điều hành (Steering Member).

PyTorch là framework mã nguồn mở dùng để phát triển và chạy các mô hình AI. oneDNN là thư viện giúp xử lý hiệu quả các phép toán học sâu như nhân ma trận và tích chập trên CPU lẫn GPU. Tài liệu dự án ghi rõ ngoài PyTorch, TensorFlow, OpenVINO và ONNX Runtime cũng sử dụng thư viện này. Còn ZenDNN là thư viện AMD phát triển cho các tác vụ AI trên bộ xử lý Zen của hãng.

Intel giải thích rằng khi phần tối ưu hóa của AMD được gộp vào oneDNN, lập trình viên có thể đơn giản hóa lộ trình phần mềm khi xây dựng, duy trì và triển khai chương trình AI cho CPU của cả Intel lẫn AMD. Theo Intel, đó là mục tiêu của sự hợp tác này. Thông báo lần này chưa nêu số liệu cải thiện hiệu năng hay thời gian hoàn tất việc tích hợp.

oneDNN cũng không vì thế mà chỉ còn dành riêng cho x86. Tài liệu dự án nêu rõ thư viện còn hỗ trợ các kiến trúc khác như CPU Arm 64-bit và RISC-V. Phạm vi của thông báo lần này chỉ là việc đưa phần tối ưu hóa CPU x86 của Intel và AMD trên PyTorch về một nền tảng chung.

Do đối tượng hợp tác là CPU, câu chuyện này khác với cuộc cạnh tranh AI xoay quanh GPU. Ngày 8 tháng 9, NVIDIA(NVDA) công bố trên blog kỹ thuật hai lộ trình phát triển cho phép viết kernel GPU bằng Rust, trong khi thông báo lần này tập trung chỉnh đốn nền tảng phần mềm phía CPU, không phải GPU.

Hai hãng cũng đang hợp tác thông qua Nhóm cố vấn hệ sinh thái x86 về AI Compute Extensions (ACE), bộ lệnh mở rộng x86 thế hệ mới nhằm tăng tốc phép nhân ma trận dùng trong tính toán AI. Intel cho biết sẽ hỗ trợ ACE trên PyTorch thông qua các bản cập nhật oneDNN trong thời gian tới.