Microsoft($MSFT) công bố bộ tăng tốc AI Maia 300 thế hệ thứ ba và cho biết sẽ ưu tiên dùng chip tự phát triển để chạy suy luận mô hình AI. Động thái này nhằm đa dạng hóa hạ tầng vốn phụ thuộc vào GPU của Nvidia($NVDA) tại các trung tâm dữ liệu.
Microsoft công bố Maia 300 ngày 12 (giờ địa phương). CNBC đưa tin chip sẽ bắt đầu được sản xuất vào năm 2027 và Microsoft đặt mục tiêu triển khai dòng Maia với quy mô vài gigawatt. Tuy nhiên, Alistair Speirs, lãnh đạo phụ trách tại Microsoft, chưa nêu thời điểm triển khai.
Công ty dự kiến lắp 96 chip Maia 300 trong mỗi tủ rack trung tâm dữ liệu, gấp đôi số chip trong một rack Maia 200. Microsoft cho biết chip mới có thể xử lý số token AI mỗi rack nhiều gấp 7 lần, còn lượng token xử lý trên mỗi megawatt cao hơn 40% so với GPU.
Alistair Speirs, lãnh đạo phụ trách tại Microsoft, nói: “Chúng tôi cần một kiến trúc mới để sử dụng điện năng hiệu quả hơn và nâng cao hiệu suất”. Ông nói thêm rằng mức tiêu thụ điện tại trung tâm dữ liệu liên quan trực tiếp đến chi phí vận hành.
Maia 300 là kết quả của quá trình Microsoft phát triển chip AI riêng. Công ty công bố chip AI đầu tiên, Maia 100, vào năm 2023 và giới thiệu Maia 200 vào tháng 1 năm nay. Satya Nadella, CEO của Microsoft, cho biết vào tháng 7 rằng Maia 200 có hiệu suất trên mỗi USD cao hơn 30% so với phần cứng mới nhất tại các trung tâm dữ liệu hiện có.
Microsoft đang dùng Maia 200 để xử lý các mô hình của OpenAI. Jim Kleewein, thành viên kỹ thuật của Microsoft, cho biết Maia 300 có thể giúp một số tính năng của Microsoft 365 Copilot hoạt động nhanh hơn khi được đưa vào sử dụng.
Microsoft vận hành các mô hình AI dành cho khách hàng trên nền tảng đám mây Azure, đồng thời cung cấp Microsoft 365 Copilot và GitHub Copilot. Chip tự phát triển được dùng để chạy mô hình trong các dịch vụ này; hiệu suất chip và hiệu quả sử dụng điện cũng ảnh hưởng đến chi phí vận hành trung tâm dữ liệu.
Tuy vậy, việc mở rộng sử dụng chip riêng không đồng nghĩa Microsoft sẽ loại bỏ sản phẩm của Nvidia và AMD($AMD). Speirs cho biết Microsoft vẫn tiếp tục dùng chip của hai công ty này để huấn luyện mô hình.
Hiện các doanh nghiệp khác chưa thể thuê bộ tăng tốc Maia của Microsoft theo giờ. Patrick Moorhead, CEO của Moor Insights & Strategy, nói: “Ngoài Microsoft, hiện chưa có ai thử nghiệm con chip này”.
Microsoft dự kiến bắt đầu sản xuất Maia 300 vào năm 2027.
Bình luận 0