Perplexity công bố mô hình embedding tìm kiếm 0,6B và 9B

Perplexity đã công bố hai phiên bản 0,6B và 9B của mô hình embedding phục vụ tìm kiếm “pplx-embed-v2-late”. Trang mô hình 9B ghi số tham số là 8B.

Tài khoản Hugging Face chính thức của Perplexity có đăng ký cả hai phiên bản. Mô hình 0,6B được ghi là 0,6B tham số, còn mô hình 9B được ghi là 8B. Tài liệu công khai chưa giải thích vì sao tên mô hình và số tham số khác nhau.

Crypto Briefing đưa tin mô hình mới hoạt động mà không cần tiền xử lý OCR, nhưng tài liệu chính thức chưa xác nhận phạm vi hỗ trợ cụ thể. Bài báo cũng nêu điểm ViDoRe v3 tăng từ 62,3% lên 63,5% và nDCG@10 của mô hình 9B đạt tối đa 81,3% trong một số tác vụ tìm kiếm. Các tính năng và số liệu này chưa được xác nhận trong tài liệu mô hình chính thức, nên chưa thể xem là hiệu năng đã được kiểm chứng.

Trước đó, Perplexity đã công bố “pplx-embed-v1-late-0.6b”, mô hình tính độ liên quan tìm kiếm bằng vector theo từng token và phương pháp MaxSim. Mô tả này nằm trong model card của phiên bản v1; hiện chưa rõ cách hoạt động đó có được áp dụng cho mô hình v2 late hay không.

“pplx-embed-v2-context-9b-preview”, có tên tương tự, là một mô hình riêng. Perplexity giới thiệu đây là mô hình embedding theo ngữ cảnh, biểu diễn các đoạn tài liệu cùng với ngữ cảnh xung quanh. Chưa có thông tin cho thấy hai mô hình v2 có cùng chức năng hoặc mục đích ra mắt.

TokenPost.ai từng đưa tin API tìm kiếm của Perplexity đứng đầu trong một bảng xếp hạng đánh giá. Kết quả đánh giá API này và hiệu năng của mô hình embedding mới là hai vấn đề riêng biệt.