Perplexity cân nhắc triển khai phần cứng riêng theo đề nghị của quỹ tài sản quốc gia

Một số quỹ tài sản quốc gia muốn vận hành các tác nhân AI của Perplexity trên phần cứng riêng và ngăn công ty truy cập dữ liệu. Phương án này dự kiến xử lý cả mô hình, tác nhân và phiên người dùng trên thiết bị do khách hàng sở hữu.

Trong cuộc phỏng vấn với Sourcery được công bố ngày 12 tháng 10, Aravind Srinivas, đồng sáng lập kiêm CEO Perplexity, cho biết một số quỹ muốn phối hợp với chính phủ để chạy Perplexity Computer trên phần cứng của họ. Ông không nêu tên các quỹ hay quốc gia liên quan.

Srinivas mô tả phương án vận hành mô hình, bộ khung tác nhân, vòng lặp tác nhân và phiên người dùng trên phần cứng của khách hàng, trong khi Perplexity không xem được dữ liệu. Công ty sẽ cung cấp các bản cập nhật phần mềm.

Ông cho biết cách triển khai này đồng nghĩa với việc từ bỏ vòng phản hồi vốn được dùng để cải thiện sản phẩm. Perplexity chưa công bố quy trình chẩn đoán sự cố, quản lý hiệu suất trên thiết bị khách hàng hay các điều kiện hỗ trợ.

Trước đó, Perplexity đã giới thiệu sản phẩm xử lý AI trên thiết bị. Portable Computer, được công bố ngày 25 tháng 8, chạy các thành phần chính như mô hình, bộ điều phối và bộ định tuyến công cụ trên NVIDIA DGX Spark. Theo công ty, người dùng có thể cho phép chuyển các tác vụ phức tạp lên đám mây; các tác vụ xử lý trên thiết bị không bị tính tín dụng.

Ngày 1 tháng 9, công ty cũng công bố giải pháp điện toán kết hợp dành cho máy Mac dùng Apple Silicon. Mô hình đám mây và mô hình cục bộ chia nhau xử lý tác vụ; thông tin nhạy cảm có thể được giữ lại trên thiết bị hoặc che đi trước khi gửi. Quản trị viên doanh nghiệp có thể đặt quy tắc xác định thông tin nào được lưu trên thiết bị.

Phương án các quỹ tài sản quốc gia đề nghị khác với những sản phẩm này về cách triển khai và điều kiện truy cập dữ liệu. Điện toán kết hợp có thể kết nối với đám mây khi cần, còn phương án được mô tả trong cuộc phỏng vấn hướng tới việc Perplexity không thể xem dữ liệu và thông tin sử dụng. Chưa có thông báo nào xác nhận hợp đồng đã được ký hoặc mọi chức năng sẽ vận hành trong mạng kín.

Sử dụng thiết bị riêng có thể giúp các tổ chức mở rộng phạm vi kiểm soát dữ liệu, nhưng họ cũng cần thống nhất điều kiện vận hành và hỗ trợ. Nội dung Srinivas nêu trong cuộc phỏng vấn lần này chỉ gồm đề nghị từ các quỹ tài sản quốc gia và hạn chế đối với vòng phản hồi đi kèm phương án đó.