100 triệu USD đổ vào Callosum, xây lớp điều phối chip AI

Callosum, startup hạ tầng AI của Anh, vừa huy động thành công 100 triệu USD. Trong bối cảnh số lượng mô hình AI và chủng loại chip tăng nhanh, phần mềm giúp doanh nghiệp chọn đúng tài nguyên tính toán cho từng tác vụ đang trở thành đích ngắm của giới đầu tư.

Theo Bloomberg, vòng gọi vốn lần này do Atomico dẫn dắt, với sự tham gia của các nhà đầu tư cũ gồm Plural, DCVC và Quỹ AI chủ quyền Anh (UK Sovereign AI Fund). Số vốn mới sẽ được dùng để xây dựng 'lớp điều phối thông minh', kết nối các ứng dụng AI với tài nguyên tính toán nền tảng.

Phần mềm của Callosum hoạt động bằng cách chia nhỏ một tác vụ AI thành nhiều phần việc chi tiết, sau đó tự động phân bổ từng phần cho mô hình và chip phù hợp nhất. Mục tiêu là giúp doanh nghiệp giảm chi phí và tăng hiệu năng mà không cần tự quản lý việc phối hợp giữa chip và mô hình.

Công ty cho rằng cách kết hợp nhiều loại chip và mô hình khác nhau mang lại lợi thế về chi phí lẫn hiệu năng, thay vì chỉ dựa vào một cụm GPU duy nhất. Trên website của mình, Callosum giải thích rằng hạ tầng AI từ trước đến nay phát triển theo hướng chồng thêm ngày càng nhiều chip và cấu trúc giống nhau, trong khi bài toán thực sự cần giải quyết lại vốn dĩ không đồng nhất.

Tính toán không đồng nhất là cách kết hợp các thiết bị tính toán có cấu trúc khác nhau — GPU, chip AI chuyên dụng, hay chip tự phát triển của các nhà cung cấp đám mây — tùy theo đặc điểm từng tác vụ. Giới quan sát nhận định kể từ khi AI tạo sinh bùng nổ, tốc độ, chi phí và độ trễ trở thành biến số quan trọng không chỉ ở khâu huấn luyện mà cả khâu suy luận, khiến nhu cầu với phần mềm điều phối kiểu này ngày càng lớn.

Hồi tháng 2, Callosum từng huy động 10,25 triệu USD vốn giai đoạn tiền hạt giống (pre-seed) do Plural dẫn dắt. Khi đó, công ty cho biết đang phát triển phần mềm phân bổ tác vụ AI giữa các loại chip khác nhau như GPU Nvidia, bộ xử lý AMD, AWS Trainium và Inferentia, Cerebras, SambaNova.

Vòng gọi vốn 100 triệu USD lần này là khoản tài trợ quy mô lớn tiếp theo, chỉ khoảng nửa năm sau vòng đầu tư ban đầu. Diễn biến này được xem là dấu hiệu cho thấy dòng vốn đang chảy không chỉ vào bản thân phần cứng, mà cả vào những công ty tối ưu cách sử dụng phần cứng, trong lúc các hãng AI vừa chạy đua về hiệu năng mô hình vừa tìm cách cắt giảm chi phí tính toán.

Chính phủ Anh cũng từng xếp Callosum vào nhóm doanh nghiệp hạ tầng AI chiến lược. Bộ Khoa học, Đổi mới và Công nghệ Anh (DSIT) hồi tháng 4 công bố Callosum là khoản đầu tư cổ phần đầu tiên của chương trình AI chủ quyền quốc gia.

Chương trình này là quỹ trị giá 500 triệu bảng do chính phủ Anh dẫn dắt, nhằm hỗ trợ các startup AI trong nước. Quỹ AI chủ quyền Anh mô tả Callosum là công ty phát triển phần mềm hệ thống, có khả năng điều phối theo thời gian thực giữa các kiến trúc chip khác nhau, đồng thời tối ưu đồng bộ cả quy trình xử lý, mô hình lẫn phần cứng.

Cùng tháng đó, Callosum cũng xác nhận trên blog công ty rằng họ là khoản đầu tư đầu tiên của Quỹ AI chủ quyền Anh. Việc nhận vốn nhà nước cho thấy hạ tầng AI đang được Anh xem là một phần của năng lực cạnh tranh quốc gia.

Công nghệ của Callosum cũng gắn với xu hướng chi phí suy luận (inference) ngày càng vượt chi phí huấn luyện. Khi doanh nghiệp đưa các mô hình đã huấn luyện vào vận hành thực tế, vấn đề không chỉ nằm ở khối lượng tính toán mà còn ở tốc độ phản hồi, chi phí và độ ổn định dịch vụ.

Callosum lập luận rằng việc chỉ dùng một mô hình với một loại chip duy nhất khó đáp ứng được yêu cầu khác nhau của từng tác vụ. Ví dụ, các tác vụ suy luận quy mô lớn thường ưu tiên hiệu quả chi phí, trong khi dịch vụ thời gian thực lại bị giới hạn nhiều hơn bởi độ trễ.

Trong một thông báo riêng hồi tháng 2, Callosum cho biết đã triển khai khung điều phối AI không đồng nhất trên các nền tảng đám mây lớn và đang hợp tác với 4 công ty tính toán thế hệ mới. Công ty cũng nhận khoản tài trợ nghiên cứu và phát triển 2,9 triệu USD từ Cơ quan Nghiên cứu và Phát minh Tiên tiến Anh (ARIA) để nghiên cứu cụm tính toán không đồng nhất phục vụ trí tuệ đa tác tử (multi-agent).

Vòng đầu tư lần này cũng có điểm giao với câu chuyện hạ tầng AI trong thị trường tiền mã hóa. Ngành blockchain hiện cũng nhắc nhiều đến tính toán phi tập trung, tác tử AI hay xác thực dữ liệu, nhưng khoản vốn mà Callosum huy động không hướng đến phát hành token hay mảng kinh doanh blockchain, mà tập trung vào phần mềm phân bổ tài nguyên tính toán AI.

Nguồn tham khảo đã dùng để xác minh: PANews, Callosum, Chính phủ Anh, Fortune.