Andreessen Horowitz bàn mở rộng cụm tính toán với 20.000 GPU

Tình trạng khó cung cấp GPU kịp thời cho các startup AI vẫn tiếp diễn, khiến các quỹ đầu tư mạo hiểm tìm cách 확보 nguồn lực tính toán. Andreessen Horowitz đang trao đổi với các công ty trung tâm dữ liệu để mở rộng cụm GPU hiện có.

The Information đưa tin Andreessen Horowitz đang thảo luận về việc mở rộng hạ tầng GPU với Switch, công ty phát triển và vận hành trung tâm dữ liệu, cùng Volta, doanh nghiệp hạ tầng AI. Năm 2024, Andreessen Horowitz đã xây dựng một cụm tính toán với khoảng 20.000 GPU và cung cấp cho các startup AI thuộc danh mục đầu tư.

Việc huấn luyện mô hình AI cần năng lực tính toán lớn trong thời gian ngắn, nhưng nhu cầu suy luận sau khi dịch vụ ra mắt lại khó dự đoán trước. Hợp đồng dài hạn có thể tạo gánh nặng chi phí khi nhu cầu giảm; còn nếu chỉ 확보 lượng GPU ngắn hạn, startup có thể không tìm được GPU vào lúc cần.

ChainCatcher đưa tin Andreessen Horowitz phân bổ tài nguyên tính toán cho các công ty trong danh mục đầu tư thông qua chương trình Oxygen, theo đó GPU được mua chung hoặc thuê. Trong phần giải thích công bố năm 2024, công ty cho biết các startup khó tiếp cận tài nguyên tính toán với thời hạn hợp đồng ngắn và điều kiện linh hoạt khi các nhà cung cấp dịch vụ đám mây lớn ưu tiên hợp đồng dài hạn. Công ty nêu rằng startup có thể phải ký hợp đồng ba năm để nhận mức giá vốn có thể đạt được với hợp đồng sáu tháng.

The Information cũng đưa tin General Catalyst đang thúc đẩy kế hoạch xây dựng trung tâm dữ liệu phục vụ các công ty trong danh mục đầu tư. Tháng 5 năm nay, quỹ này tuyển một nhân sự từng dẫn dắt mảng DGX Cloud của NVIDIA để phụ trách hoạt động hạ tầng AI.

ChainCatcher đưa tin quỹ đầu tư mạo hiểm quy mô nhỏ Crucible Capital sử dụng cụm gồm 576 GPU NVIDIA B300 để các công ty trong danh mục đầu tư thử nghiệm, đồng thời bán một phần công suất tính toán cho một viện nghiên cứu AI. Đây là một ví dụ cho thấy các quỹ đầu tư mạo hiểm trực tiếp tham gia hạ tầng liên quan, bên cạnh các nhà cung cấp dịch vụ đám mây và đơn vị vận hành trung tâm dữ liệu vốn đảm nhiệm phần lớn việc cung cấp và vận hành GPU.

Việc 확보 GPU từ trước có thể giúp nguồn cung ổn định hơn, nhưng dự báo sai nhu cầu có thể làm chi phí tăng. Andreessen Horowitz cũng cho biết hợp đồng dài hạn có thể khiến startup chi tiêu vượt nhu cầu. Quy mô và thời điểm hoàn tất các cuộc thảo luận mở rộng lần này chưa được công bố.