Google(GOOGL) vừa công bố TorchTPU, dự án mã nguồn mở được phát triển cùng nhóm PyTorch của Meta(META). Nhờ đó, TPU trở thành lựa chọn phần cứng được PyTorch hỗ trợ mặc định, ngang hàng với GPU và CPU.
Blog chính thức của Google Cloud cho biết Google đã phát hành TorchTPU dưới dạng mã nguồn mở tại 'PyTorch Conference 2026'. Mã nguồn được đăng trên GitHub, và mã PyTorch hiện có chỉ cần chỉnh sửa nhẹ là có thể chuyển sang chạy trên TPU.
Phạm vi tích hợp cũng khá rộng. Google Cloud giải thích rằng các framework như vLLM, SGLang, TorchTitan, VeRL và Ray đã được kết nối với TorchTPU. Với Transformers v5 của Hugging Face, nhà phát triển chỉ cần truyền device_map="tpu" là có thể triển khai mô hình lên TPU.
Bình luận 0