CoreWeave cung cấp rộng rãi dịch vụ cơ sở dữ liệu quản lý cho cụm AI

CoreWeave($CRWV) bắt đầu cung cấp rộng rãi dịch vụ cơ sở dữ liệu quản lý dành cho ứng dụng AI, bổ sung khả năng vận hành cơ sở dữ liệu vào dịch vụ đám mây vốn tập trung vào tính toán GPU.

Ngày 11, CoreWeave cho biết đã ra mắt CoreWeave Database, cơ sở dữ liệu quan hệ tương thích với PostgreSQL và chạy bên trong cụm CoreWeave Kubernetes Service (CKS) của khách hàng.

Điểm cốt lõi của dịch vụ là đặt cơ sở dữ liệu trong cùng cụm với môi trường huấn luyện và suy luận mô hình AI. CoreWeave cho biết nếu cơ sở dữ liệu đặt trên một đám mây khác, việc truy cập dữ liệu cần thêm bước kết nối mạng; bố trí trong cùng cụm có thể giảm bước này. Thông báo không đưa ra số liệu so sánh về mức giảm độ trễ hoặc chi phí vận hành.

CoreWeave đảm nhiệm việc sao chép cơ sở dữ liệu, chuyển đổi khi xảy ra sự cố, vá lỗi và sao lưu. Khách hàng vẫn sở hữu dữ liệu, lược đồ, truy vấn và tài khoản người dùng.

Dịch vụ bố trí các phiên bản chính và bản sao chỉ đọc trên nhiều máy chủ, đồng thời hỗ trợ tự động chuyển đổi khi gặp sự cố. Cách thiết kế này giúp dịch vụ tiếp tục hoạt động khi một máy chủ gặp vấn đề.

Dữ liệu được sao lưu liên tục và có thể khôi phục về một thời điểm cụ thể trong thời hạn lưu trữ. Dữ liệu được mã hóa khi lưu trữ và truyền tải; quyền truy cập được quản lý bằng vai trò PostgreSQL và chính sách mạng Kubernetes.

Về tính năng AI, dịch vụ hỗ trợ pgvector, một phần mở rộng của PostgreSQL. Khách hàng có thể lưu dữ liệu ứng dụng và embedding trong cùng cơ sở dữ liệu, sau đó thực hiện tìm kiếm vector. Embedding là dữ liệu biểu diễn ý nghĩa của câu văn hoặc nội dung khác dưới dạng số.

CoreWeave cho biết pgvector có thể được dùng trong RAG (tạo sinh tăng cường truy xuất), phương pháp để AI tìm tài liệu liên quan làm căn cứ trước khi tạo câu trả lời.

Dịch vụ sử dụng CloudNativePG, một toán tử Kubernetes mã nguồn mở. CoreWeave cho biết hãng kết hợp bảng điều khiển, quy trình làm việc trên Kubernetes, hệ thống lưu trữ tệp phân tán cùng các tính năng sao lưu và giám sát để đảm nhiệm việc vận hành cơ sở dữ liệu.

Trước đó, hạ tầng GPU của CoreWeave từng được CrowdStrike sử dụng để huấn luyện và suy luận mô hình AI bảo mật, theo bài viết trước đây của TokenPost. Với dịch vụ cơ sở dữ liệu mới, CoreWeave mở rộng khả năng cung cấp sang quản lý dữ liệu ứng dụng trong cùng môi trường đám mây.

Trong một trường hợp khách hàng do CoreWeave công bố, Mike Mattacola, CEO của Advaita Bio, cho biết quá trình chuyển cơ sở dữ liệu tài liệu khoa học sự sống từ một đám mây khác diễn ra thuận lợi và giúp chuẩn bị vận hành dịch vụ. Đây là một trường hợp khách hàng do công ty công bố, cần phân biệt với kết quả so sánh hiệu năng độc lập.