NVIDIA giới thiệu Minerva, phần mềm vận hành trung tâm dữ liệu AI

NVIDIA($NVDA) giới thiệu Minerva, phần mềm vận hành kết nối dữ liệu GPU, mạng và lưu trữ để phát hiện dấu hiệu bất thường trong các trung tâm dữ liệu AI. Công ty cho biết các kết quả triển khai ban đầu gồm thời gian GPU hữu ích tăng 2%.

Ngày 26, NVIDIA giải thích cách Minerva hoạt động và các trường hợp ứng dụng trên blog kỹ thuật. Trang phần mềm mạng của hãng cũng nêu các kết quả triển khai ban đầu: thời gian trung bình giữa các lần gián đoạn (MTBI) tăng 20%, thời gian khôi phục trung bình (MTTR) giảm 63% và nhiễu cảnh báo giảm tối đa 99,9%. Quy mô mẫu, cơ sở so sánh và thời gian đo các chỉ số này chưa được công bố.

Theo NVIDIA, Minerva thu thập số liệu, nhật ký và thông tin cấu trúc liên kết từ GPU, bộ chuyển mạch Spectrum-X và NVLink, SuperNIC, DPU, hệ thống lưu trữ, NCCL, bộ lập lịch và các tác vụ AI. Phần mềm kết nối dữ liệu thành đồ thị tri thức được cập nhật liên tục để theo dõi dấu hiệu bất thường ở thiết bị và các tác vụ bị ảnh hưởng. NVIDIA cho biết Minerva xử lý hàng tỷ điểm dữ liệu số liệu và nhật ký mỗi giờ.

NVIDIA giải thích rằng trong quá trình huấn luyện phân tán, hiệu suất của tác vụ có thể bị giới hạn bởi GPU hoặc đường kết nối chậm nhất. Vì vậy, một thiết bị hoạt động kém có thể khiến các GPU khác phải chờ. Công ty cho biết việc dữ liệu bị phân tách giữa các nhóm phụ trách mạng, điện toán và tác vụ AI có thể khiến quá trình tìm nguyên nhân mất thời gian.

NVIDIA cho biết Minerva được thiết kế để liên kết các dấu hiệu bất thường khó phát hiện chỉ bằng ngưỡng định sẵn với những tác vụ bị ảnh hưởng. Blog kỹ thuật của hãng nêu ví dụ phần mềm xác định một kết nối NVLink suy giảm hiệu suất cùng tác vụ huấn luyện liên quan trong trung tâm dữ liệu có khoảng 400.000 giao diện.

Trợ lý AI tích hợp Sherlock được thiết kế để tra cứu trạng thái cụm, dấu hiệu bất thường, sự cố và cấu trúc liên kết bằng câu hỏi ngôn ngữ tự nhiên. Tài liệu hướng dẫn người dùng của NVIDIA cho biết Sherlock trả lời các câu hỏi liên quan dựa trên dữ liệu Minerva theo thời gian thực.

Trong một trường hợp khác, NVIDIA cho biết các tác vụ huấn luyện bị trì hoãn do thiết bị lưu trữ NVMe không thể thoát khỏi trạng thái tiêu thụ điện thấp như bình thường. Công ty ước tính đã tiết kiệm khoảng 5.530 giờ thực thi tác vụ sau khi tách thiết bị gặp vấn đề khỏi hệ thống. Đây là ước tính của NVIDIA cho trường hợp cụ thể này.

NVIDIA cho biết Minerva bổ sung cho các tính năng quan sát hiện có của Mission Control. Tài liệu phát hành Mission Control mô tả Minerva 1.0.0 là thành phần beta trước khi ra mắt, được cung cấp theo hình thức tham gia có giới hạn.