Mã hỗ trợ ACE của AMD, Intel được đưa vào nhánh phát triển GCC 17

Mã hỗ trợ cho tập lệnh mở rộng tính toán AI mang tên AI Compute Extension (ACE), do AMD(AMD) và Intel(INTC) cùng thiết kế, đã được đưa vào nhánh phát triển GCC 17. Đây là bước khởi đầu cho việc hỗ trợ trình biên dịch nhằm tăng tốc các phép tính ma trận trên bộ xử lý x86.

Dự án GCC công bố commit hỗ trợ tập lệnh ACEv1 vào ngày 2/9. Commit này trên GCC bao gồm các hàm nội tại (intrinsic) riêng cho ACE, phép tính tile, các lệnh dựa trên tích ngoài (outer product), phép tính độ chính xác hỗn hợp FP8, cùng chức năng di chuyển dữ liệu tile.

ACE là tập lệnh mở rộng giúp bộ xử lý x86 xử lý phép nhân ma trận, vốn là phép tính cốt lõi của các mô hình AI. Theo tài liệu kỹ thuật (whitepaper) về ACE do AMD và Intel cùng biên soạn, khi sử dụng cùng số lượng vector đầu vào AVX10, phép tính tích ngoài của ACE cho “mật độ tính toán” cao hơn tối đa 16 lần so với phép nhân-cộng dồn tương đương trên AVX10.

Con số 16 lần này không có nghĩa là hiệu năng ứng dụng tổng thể sẽ tăng gấp 16 lần. Đây chỉ là số liệu so sánh thông lượng lý thuyết trong một cấu trúc phép tính ma trận cụ thể, còn hiệu năng thực tế còn tùy thuộc vào thiết kế của bộ xử lý tích hợp ACE và cách triển khai phần mềm.

ACEv1 hỗ trợ các định dạng tính toán AI độ chính xác thấp như INT8, OCP FP8, OCP MXFP8, OCP MXINT8 và BF16. Các phép tính độ chính xác thấp thường được dùng để giảm dung lượng bộ nhớ sử dụng và gánh nặng tính toán trong một số tác vụ suy luận (inference).

ACE tái sử dụng một phần mô hình lập trình liên quan đến tập lệnh Advanced Matrix Extension (AMX) sẵn có của Intel. Tuy nhiên, theo mô tả bản vá ACEv1 trên danh sách email dành cho nhà phát triển GCC, ACE và AMX hiện có không được sử dụng cùng lúc, và hai tập lệnh này dùng tên hàm nội tại khác nhau.

Do đó, khó có thể coi mã lập trình dành cho AMX hiện tại có thể chạy trực tiếp trên bộ xử lý hỗ trợ ACE mà không cần chỉnh sửa. ACE có chia sẻ một số khái niệm với AMX, nhưng vẫn là một hệ thống tập lệnh và hàm nội tại riêng biệt.

Công việc hỗ trợ ACEv1 cũng đang được triển khai trong hệ sinh thái LLVM. Nhánh phát triển LLVM do một kỹ sư của AMD đăng tải ghi nhận các thay đổi trên trình biên dịch và Clang nhằm hỗ trợ phép tính tile, lệnh tích ngoài, phép tính FP8 và di chuyển dữ liệu tile của ACE.

Trọng tâm của thay đổi lần này không nằm ở việc ra mắt phần cứng, mà ở hệ sinh thái phần mềm. Khi trình biên dịch có thể nhận diện tập lệnh và hàm nội tại của ACE, hệ điều hành, thư viện và các framework AI sẽ có nền tảng để tối ưu hóa cho ACE trong tương lai.

Việc trình biên dịch hỗ trợ không đồng nghĩa với việc bộ xử lý đã thực sự được ra mắt. Dựa trên các tài liệu công khai đến thời điểm hiện tại, chưa có bộ xử lý thương mại nào hỗ trợ ACE, và cũng chưa xác nhận được lịch ra mắt cụ thể.

Tài liệu đặc tả kỹ thuật ACEv1 do AMD và Intel công bố nêu rõ sản phẩm và lộ trình hiện vẫn đang ở giai đoạn thiết kế, có thể thay đổi mà không cần thông báo trước. Vì vậy, cũng khó khẳng định một mốc thời gian ra mắt cụ thể nào đó do bên ngoài đưa ra là lịch trình chính thức.

Để ACE thực sự được ứng dụng trong ngành công nghiệp, cần có bộ xử lý tương thích ra mắt song song với việc GCC và LLVM ổn định hơn. Việc hệ điều hành, thư viện và các framework AI có hỗ trợ ACE hay không cũng là yếu tố cần tiếp tục theo dõi.

Phép tính ma trận độ chính xác thấp được sử dụng trong suy luận AI theo hướng giảm dung lượng bộ nhớ và gánh nặng tính toán. Tuy nhiên, việc các định dạng được hỗ trợ có thực sự chuyển hóa thành cải thiện hiệu năng hay không còn phụ thuộc vào cấu trúc bộ xử lý và mức độ tối ưu hóa phần mềm.

Khi kiến trúc tập lệnh x86 mà AMD và Intel cùng nhắm tới lần lượt được đưa vào giai đoạn phát triển của GCC và LLVM, công tác chuẩn bị ở cấp độ công cụ cho nhà phát triển có thể xem như đã bắt đầu. Tuy nhiên, việc ACE có được thương mại hóa hay không, cũng như hiệu năng thực tế ra sao, chỉ có thể đánh giá sau khi bộ xử lý tương thích và hỗ trợ phần mềm được công bố.