Amazon nhận sớm 5 tỷ USD giá rack GB300 của Nvidia, một phần chờ trong kho vì thiếu điện

Amazon($AMZN) lên kế hoạch nhận và bố trí trước các rack máy chủ GB300 của Nvidia($NVDA) trị giá khoảng 5 tỷ USD trước khi hoàn tất hạ tầng điện tại trung tâm dữ liệu. Một số thiết bị đã mua được cho là đang nằm tại kho trung chuyển do thiếu điện.

Caixin (财联社) đưa tin ngày 21, dẫn một email nội bộ cho biết Amazon đã lập chương trình mới mang tên “nhận rack sớm”. Email nêu kế hoạch đưa thiết bị đến các trung tâm dữ liệu tại Mỹ trước; Amazon cũng dự kiến tăng mua phần cứng với quy mô 3 tỷ USD mỗi tháng.

GB300 là dòng rack máy chủ AI của Nvidia. GPU xử lý tốt các phép tính song song và được sử dụng rộng rãi trong hạ tầng huấn luyện, suy luận mô hình AI. Mỗi rack chứa nhiều GPU nên tiêu thụ lượng điện lớn.

Caixin cho biết kế hoạch này khác với thông lệ trong ngành, vốn thường chỉ đưa phần cứng vào sau khi đã bố trí nguồn điện và điều kiện vận hành tại trung tâm dữ liệu. Theo bài báo, nhiều địa điểm của Amazon Web Services (AWS) thiếu công suất điện, khiến một lượng đáng kể thiết bị GPU Nvidia được mua trước vẫn nằm trong kho trung chuyển. Bài báo gọi số thiết bị chưa thể sử dụng này là “GPU bị bỏ không” (Dark GPUs), tức tài nguyên AI đã mua nhưng chưa vận hành được do vấn đề điện hoặc lỗi thiết kế hệ thống.

Thông tin trên dựa trên bài báo của Caixin dẫn email nội bộ; Amazon chưa đưa ra bình luận chính thức.