AMD(AMD) EPYC thế hệ 5 làm CPU chủ cho TPU 8tx của Google

Bộ xử lý máy chủ EPYC thế hệ 5 của AMD(AMD) sẽ đảm nhận hạ tầng chủ cho TPU 8tx của Google Cloud. TPU 8tx là hệ thống TPU đám mây đầu tiên hỗ trợ điện toán bảo mật dựa trên phần cứng.

Trong thông cáo chính thức ngày 9, AMD cho biết sự kết hợp này được thiết kế để hỗ trợ các tác vụ suy luận AI, tinh chỉnh và học tăng cường của doanh nghiệp, đồng thời bảo vệ dữ liệu nhạy cảm.

EPYC chuẩn bị dữ liệu để TPU thực hiện tác vụ, điều phối công việc và quản lý liên lạc với bộ tăng tốc. AMD cũng nêu khả năng tương thích phần mềm x86 là một yếu tố của cấu hình này.

Hệ thống bảo mật áp dụng SEV, công nghệ ảo hóa mã hóa bảo mật của EPYC. Trước khi bộ tăng tốc TPU truy cập vào vùng bộ nhớ được bảo vệ, danh tính và cấu hình bảo mật của thiết bị sẽ được xác minh. Câu lệnh đầu vào của khách hàng, trọng số mô hình và dữ liệu trung gian khi tính toán được thiết kế để mã hóa trong bộ nhớ CPU cũng như trong quá trình truyền giữa máy chủ và bộ tăng tốc. Khi bộ tăng tốc đang tính toán, cơ chế cách ly phần cứng được áp dụng.

Dan McNamara, phó chủ tịch cấp cao kiêm tổng giám đốc mảng điện toán và AI doanh nghiệp của AMD, nói: “Các hệ thống AI hiệu năng cao cần một nền tảng CPU đủ sức đáp ứng yêu cầu của bộ tăng tốc”. Phát biểu này nhấn mạnh vai trò của CPU chủ trong việc hỗ trợ xử lý dữ liệu và điều phối tác vụ cho bộ tăng tốc AI.

AMD và Google Cloud đã hợp tác qua nhiều thế hệ bộ xử lý EPYC. Bộ xử lý AMD cũng được dùng trong các máy ảo C4D, N4D, H4D, Z4D và G4 của Google Cloud. AMD cho biết hơn 10 nhà cung cấp đám mây siêu quy mô lớn và phòng nghiên cứu AI tiên phong đã chọn EPYC làm CPU chủ trong các hệ thống dùng GPU và bộ tăng tốc AI tùy biến. Con số này không phản ánh quy mô triển khai TPU 8tx, mà chỉ phạm vi EPYC được chọn làm CPU chủ trong nhiều hệ thống bộ tăng tốc.