H200 giá 54.516 USD: B3IQ nhắm nhà nghiên cứu đại học

B3IQ ra mắt mô hình “thuê để sở hữu” (rent-to-own) dành cho nhà nghiên cứu đại học, cho phép thuê GPU chuyên dụng trước khi chuyển quyền sở hữu. Tổng chi phí cho một máy chủ Nvidia (NVDA) H200 NVL là 54.516 USD.

Theo Fortune đưa tin ngày 11 (giờ địa phương), startup B3IQ có trụ sở tại New York đã có được các nhà nghiên cứu tại Đại học Stanford, Đại học Dartmouth và Đại học New York (NYU) làm khách hàng. Đây là dịch vụ cung cấp tài nguyên tính toán AI chuyên dụng và quyền kiểm soát dữ liệu cho những nhà nghiên cứu ngần ngại dùng dịch vụ đám mây bên ngoài.

Theo B3IQ công bố, khoản đặt cọc cho máy chủ H200 NVL là 16.355 USD, tương đương 30% tổng chi phí. Khách hàng thanh toán theo từng đợt trong quá trình sử dụng thiết bị, sau đó được chuyển giao quyền sở hữu.

Thiết bị có thể lắp đặt trực tiếp tại cơ sở của khách hàng hoặc gửi tại trung tâm của B3IQ ở Eugene, bang Oregon (Mỹ). Chi phí lưu trữ cơ bản là 240 USD mỗi tháng, thời gian giao hàng dự kiến 6-8 tuần.

Trong các trường hợp khách hàng mà công ty công bố có một nhà nghiên cứu tại NYU dùng dữ liệu sơ tán từ vùng chiến sự để xây dựng mô phỏng, cùng một nghiên cứu khác về mô hình hóa đàm phán ngoại giao giữa các quốc gia. Đây là mô hình nhắm đến nhu cầu của nhóm nghiên cứu muốn tự quản lý vị trí dữ liệu và quyền truy cập thiết bị.

Các trường đại học vốn đã vận hành hạ tầng điện toán hiệu năng cao (HPC) và tài nguyên GPU riêng. HPC là hạ tầng phân bổ khối lượng tính toán lớn trên nhiều tài nguyên điện toán khác nhau.

Hệ thống Marlowe của Stanford cung cấp tài nguyên nghiên cứu tăng tốc GPU cho giáo sư chủ nhiệm đề tài, nhưng vận hành theo quy trình đăng ký và phân cấp truy cập riêng. Dartmouth cung cấp tài nguyên GPU cùng các gói sử dụng miễn phí lẫn trả phí qua cụm máy chủ Discovery.

NYU Langone Health cũng cung cấp lõi HPC tích hợp GPU cho nhà nghiên cứu. Dù tài nguyên tính toán có sẵn trong trường, người dùng vẫn phải qua các bước phê duyệt tài khoản, xếp lịch xử lý công việc và quy trình bảo mật dữ liệu của cụm máy chủ dùng chung.

Sở hữu thiết bị riêng giúp nhóm nghiên cứu dùng GPU vào thời điểm cần thiết và dễ lập ngân sách dài hạn hơn. Với nghiên cứu xử lý dữ liệu nhạy cảm như y tế, quốc phòng hay khoa học xã hội, khả năng xử lý dữ liệu ngay tại cơ sở thay vì gửi lên đám mây bên ngoài cũng là một tiêu chí lựa chọn.

Nhu cầu tương tự có thể xuất hiện cả bên ngoài môi trường đại học. Các lĩnh vực xử lý thông tin nhạy cảm như sàn giao dịch, lưu ký tài sản, phân tích on-chain và tuân thủ pháp lý cũng có thể cân nhắc triển khai AI nội bộ, on-premise.

Tuy nhiên, yếu tố “quyền riêng tư” mà B3IQ đưa ra không đồng nghĩa toàn bộ nội dung công việc được giữ bí mật. Theo FAQ của công ty, dữ liệu được mã hóa trong quá trình truyền tải, và control plane không lưu trữ prompt cũng như kết quả đầu ra của các yêu cầu định tuyến.

Khi tác vụ thực tế được thực thi trên node, người vận hành node có thể xem được prompt và kết quả đầu ra dạng văn bản thuần. B3IQ nêu rõ cơ chế định tuyến suy luận hiện tại không nên được xem là môi trường bảo mật được bảo vệ khỏi người vận hành node.

Công nghệ điện toán bảo mật đã kiểm chứng và môi trường thực thi đáng tin cậy (TEE) cũng chưa được triển khai đầy đủ. TEE là công nghệ xử lý dữ liệu trong khu vực cách ly bên trong bộ vi xử lý, nhằm hạn chế quyền truy cập từ bên ngoài, kể cả từ người vận hành hệ thống.

Sản phẩm hiện chưa ở giai đoạn được kiểm chứng về độ ổn định thương mại. Trong tài liệu chính thức, B3IQ tự xác định dịch vụ đang ở giai đoạn “thí điểm”, với cổng kết nối lưu trữ và chức năng thanh toán vận hành cho mục đích thử nghiệm, trong khi mạng lưới vẫn đang trong quá trình hoàn thiện.

B3IQ đặt mục tiêu doanh thu 50 triệu USD trong năm nay. Công ty hiện có khoảng 30 nhân sự và đã huy động tổng cộng 21 triệu USD vốn đầu tư, với Pantera và Coinbase Ventures được nhắc đến là nhà đầu tư. Các số liệu kinh doanh này do phía công ty cung cấp và được Fortune truyền tải lại.