NVIDIA (NVDA) được cho là đã đề xuất sử dụng các cơ sở viễn thông của nhà mạng Mỹ Brightspeed làm trung tâm dữ liệu AI phân tán.
Crypto Briefing đưa tin ngày 7 rằng NVIDIA đề xuất khai thác hơn 130 cơ sở của Brightspeed để xây dựng mạng trung tâm dữ liệu AI trải rộng qua nhiều bang. Cơ sở khách hàng và các điều kiện thương mại vẫn chưa được xác định.
Suy luận AI là giai đoạn mô hình đã hoàn tất huấn luyện xử lý yêu cầu của người dùng. Phương án này đặt máy chủ phục vụ suy luận tại các cơ sở viễn thông ở nhiều khu vực.
Trước đó, NVIDIA từng giới thiệu thiết kế suy luận trong đó Vera Rubin đảm nhiệm xử lý đầu vào và phép tính attention, còn Groq 3 LPX hỗ trợ các khâu tạo đầu ra nhạy cảm với độ trễ. Oracle (ORCL) cũng từng công bố kế hoạch mở rộng OCI Supercluster trang bị hệ thống Vera Rubin NVL72 lên quy mô vài gigawatt.
Bài báo cũng đề cập phương án triển khai máy chủ Vera Rubin tại một số cơ sở sớm nhất vào quý I/2027.
Comment 0