Google công bố Pathways điều phối huấn luyện TPU, Google Cloud có GPU NVIDIA

Google ngày 9 tháng 11 công bố phát hành chính thức Pathways on Google Cloud, phần mềm điều phối các tác vụ huấn luyện trên cụm TPU trong một chương trình. Sản phẩm là hệ thống thực thi để quản lý việc huấn luyện mô hình AI, không phải một dòng chip mới.

Blog dành cho nhà phát triển của Google mô tả Pathways là hệ thống thực thi phân tán đã được dùng để huấn luyện các mô hình lớn của hãng, trong đó có Gemini. Một ứng dụng JAX duy nhất có thể định nghĩa toàn bộ tác vụ tính toán; hệ thống sau đó phân bổ công việc cho các bộ tăng tốc và điều phối việc di chuyển dữ liệu cùng thứ tự thực thi.

Tài liệu Pathways của Google Cloud cho biết một ứng dụng có thể điều phối công việc trên hàng nghìn đến hàng chục nghìn bộ tăng tốc. Tùy yêu cầu của từng tác vụ, hệ thống phân bổ tài nguyên tính toán để các nhóm TPU khác nhau thực hiện những phép tính riêng.

Với phương thức một chương trình, nhiều dữ liệu (SPMD), mỗi bộ tăng tốc chạy đồng bộ cùng một chương trình. Google cho biết trong quá trình học tăng cường, các công đoạn lấy mẫu, đánh giá phần thưởng và huấn luyện mô hình có thể chạy những chương trình khác nhau, khiến thiết bị có lúc phải chờ. Pathways mô tả quan hệ phụ thuộc giữa các tác vụ dưới dạng luồng dữ liệu rồi phân bổ tài nguyên tính toán cần thiết.

Mốc phát hành chính thức được ghi nhận khác nhau trong các tài liệu của Google. Blog dành cho nhà phát triển công bố việc phát hành ngày 9 tháng 11, trong khi ghi chú phát hành của Google Cloud ghi nhận phiên bản 0.1.0 phát hành ngày 2 tháng 3 năm 2026. Thông báo tháng 11 không nêu phiên bản hay tính năng riêng.

Ngày 22 tháng 4, Google giới thiệu TPU 8t phục vụ huấn luyện và TPU 8i phục vụ suy luận. Thông báo của Google Cloud khi đó cho biết một siêu cụm TPU 8t có tối đa 9.600 chip và 2 petabyte bộ nhớ dùng chung.

Google cho biết sẽ sớm cung cấp hai sản phẩm cho khách hàng đám mây nhưng không nêu ngày bắt đầu cụ thể. Thông báo Pathways ngày 9 tháng 11 là tin về phần mềm, tách biệt với việc giới thiệu phần cứng TPU. Google cũng đang phát triển TorchTPU để hỗ trợ chạy mô hình PyTorch trên TPU.

Google mô tả TPU là một hệ thống kết hợp năng lực tính toán, lưu trữ, mạng và phần mềm, thay vì chỉ là chip riêng lẻ. Hãng cũng đang mở rộng cung cấp TPU tới trung tâm dữ liệu của khách hàng, ngoài dịch vụ đám mây của mình.

Google Cloud và Oracle công bố kế hoạch đưa năng lực TPU của Google vào Cơ sở hạ tầng đám mây Oracle (OCI) từ năm 2027. TokenPost trước đây cũng đã đưa tin về kế hoạch triển khai TPU trên OCI.

Google Cloud cũng cung cấp GPU của NVIDIA (NVDA). NVIDIA cho biết trong báo cáo kết quả kinh doanh quý II năm tài chính 2027, doanh thu mảng trung tâm dữ liệu tăng 117% so với cùng kỳ năm trước. NVIDIA cũng nêu Google Cloud là đối tác cho nền tảng Vera Rubin thế hệ tiếp theo.

Trong báo cáo kết quả kinh doanh quý III công bố ngày 28 tháng 10, Alphabet (GOOG, GOOGL) cho biết doanh thu Google Cloud tăng 103% so với cùng kỳ năm trước và doanh số hệ thống TPU cũng góp phần vào tăng trưởng. Báo cáo đề cập đồng thời việc mở rộng hoạt động TPU và mức tăng doanh thu đám mây.

Anat Ashkenazi, Giám đốc tài chính (CFO) của Alphabet, phát biểu trong buổi công bố kết quả kinh doanh ngày 28 tháng 10: “Doanh số hệ thống TPU sẽ tiếp tục mở rộng trong quý IV và chúng tôi dự kiến doanh thu sẽ tăng đáng kể vào năm 2027”. Công ty cũng cho biết việc xây dựng tồn kho hệ thống gây áp lực lên dòng tiền.