Jev xuất hiện loạt bản triển khai mã nguồn mở chỉ một tuần sau khi ra mắt

Một tuần sau khi được công bố, mô hình trí tuệ nhân tạo (AI) Jev đã xuất hiện nhiều bản triển khai mã nguồn mở tương tự, cho thấy mô hình chuyên xử lý phán đoán tách biệt với việc tạo văn bản đang được đề xuất như một hướng phát triển mới.

TypeSafe AI ra mắt Jev theo hình thức truy cập sớm vào ngày 15 tháng 9, gọi đây là mô hình 'System One' đầu tiên. Công ty cho biết Jev xử lý song song nhiều phán đoán dựa trên trạng thái và câu hỏi đầu vào, sau đó trả về kết quả cùng các giá trị xác suất và độ tin cậy.

Khác với mô hình ngôn ngữ lớn (LLM) thông thường, Jev không tạo token tuần tự. Khi nhà phát triển xác định trước phạm vi kết quả và loại câu hỏi mà mô hình có thể xử lý, phần mềm sẽ nhận được các giá trị có cấu trúc để trực tiếp sử dụng.

Jev hỗ trợ ba dạng: 'Choice' để chọn một phương án, 'Score' để chấm điểm theo tiêu chí định sẵn và 'Noul' để xác định một mệnh đề có đúng hay không. Cả ba dạng có thể được xử lý trong một lần gọi API.

Chẳng hạn, khi phân loại yêu cầu thành bộ phận hỗ trợ kỹ thuật và bộ phận thanh toán, Jev có thể đưa ra xác suất lần lượt là 91% và 9% để hệ thống tự động phân loại. Nếu kết quả là 52% và 48%, hệ thống có thể yêu cầu thêm thông tin hoặc chuyển yêu cầu cho một mô hình mạnh hơn.

Tiêu chí phán đoán và hành động tiếp theo do mã phần mềm đảm nhiệm, không phải mô hình. Thay vì tạo câu để con người diễn giải, Jev được thiết kế để cung cấp trực tiếp các kết quả như phê duyệt, phân loại và định tuyến cho chương trình sử dụng.

TypeSafe AI cho biết thời gian phản hồi của Jev là 70-500 mili giây. Trong khi đó, thời gian phản hồi của các mô hình tiên phong hiện có mà công ty dùng để so sánh là 3-329 giây.

Trang web của công ty cũng nêu chi phí 0,000081 USD mỗi tác vụ (khoảng 0,11 won) và 42 USD cho mỗi 1 tỷ token đầu vào (khoảng 58.254 won). Tuy nhiên, việc so sánh thời gian phản hồi và chi phí dựa trên phương pháp đánh giá và đo lường do TypeSafe AI tự thiết kế.

Chưa có kết quả tái hiện từ các tổ chức độc lập. Vì vậy, hiệu suất và lợi thế chi phí của Jev trong các môi trường công việc khác vẫn cần được kiểm chứng thêm.

Jev có thể giảm lỗi về định dạng đầu ra nhưng không loại bỏ lỗi phán đoán. Ngay cả khi giá trị trả về nằm trong các phương án được xác định trước, mô hình vẫn có thể lựa chọn sai.

Trong thảo luận về Jev trên Hacker News, một số ý kiến cho rằng cách tập trung vào phân loại, định tuyến và chấm điểm thay vì tạo văn bản có thể hữu ích. Mặt khác, cũng có ý kiến nhận định rằng khó so sánh trực tiếp hiệu suất của phương pháp này với LLM hiện có.

Bài viết trước về cơ chế xuất kết quả phán đoán có cấu trúc của Jev là nền tảng cho cuộc thảo luận tiếp theo. Jev hướng tới vai trò mô-đun phán đoán kết nối với phần mềm hiện có, thay vì thay thế AI hội thoại.

Các dự án phát triển tiếp theo trong cộng đồng mã nguồn mở bắt đầu xuất hiện từ ngày 16 tháng 9. Một số dự án cung cấp bản triển khai thay thế có thể chạy trên GPU cục bộ, trong khi các dự án khác mô phỏng hoạt động của Jev bằng những mô hình ngôn ngữ hiện có.

Trên Hugging Face đã xuất hiện 'system-one-qwen3.5-4b-scorer' dựa trên Qwen3.5. Mô hình này chấm điểm đồng thời câu hỏi và các phương án, đồng thời không tạo chuỗi văn bản.

'cua-s1-forms' trên Hugging Face là một bản triển khai độc lập trả về xác suất cho từng phương án, hướng tới các tác vụ điều khiển máy tính. Dự án được phát hành theo giấy phép MIT nhưng không áp dụng phương pháp huấn luyện RLCD của TypeSafe AI và cũng không phải mô hình tái hiện hiệu suất của Jev.

Điểm chung hiện được ghi nhận là giao diện đánh giá song song các ứng viên được xác định trước mà không tạo văn bản. Mức độ chính xác và ổn định của phương pháp này trong các môi trường tự động hóa thực tế sẽ phụ thuộc vào kết quả đánh giá tiếp theo.