Jev ra mắt mô hình AI đưa ra quyết định có cấu trúc, không tạo văn bản

TypeSafe AI đã công bố Jev, mô hình trí tuệ nhân tạo không tạo văn bản mà xuất ra các giá trị quyết định có cấu trúc, hướng đến những tác vụ như phân loại, định tuyến và trích xuất thông tin để phần mềm có thể sử dụng trực tiếp.

TypeSafe AI cho biết ngày 15 (giờ địa phương) rằng Jev là mô hình 'System One' đầu tiên của công ty. Mô hình được cung cấp cho nhà phát triển theo hình thức truy cập sớm, với đầu ra gồm các giá trị theo định dạng định trước cùng điểm xác suất và độ tin cậy thay vì các câu văn thông thường.

Jev có thể phân loại thông tin đầu vào thành nhiều nhóm, chuyển dữ liệu đến quy trình xử lý phù hợp hoặc trích xuất các trường cụ thể. Mô hình biến những phán đoán mơ hồ, vốn khó xử lý chỉ bằng mã dựa trên quy tắc, thành các giá trị có cấu trúc để kết nối với chương trình.

TypeSafe AI cho biết thời gian phản hồi đầu cuối của Jev là 70-500 mili giây. Trong khi đó, thời gian phản hồi của các mô hình ngôn ngữ hàng đầu khi xử lý cùng tác vụ được đưa ra ở mức 3-329 giây.

Công ty cho biết Jev có thể nhanh hơn các mô hình hiện có từ 40 đến 200 lần tùy loại tác vụ. Tuy nhiên, phép so sánh này dựa trên kết quả đánh giá riêng do TypeSafe AI công bố.

Chi phí được chia thành token đầu vào và token đầu ra. Giá đầu vào là 0,042 USD cho mỗi 1 triệu token, trong khi không tính phí đầu ra. TypeSafe AI cho biết Jev được thiết kế để xử lý song song nhiều kết quả trong một truy vấn.

Jev áp dụng 'học tăng cường cho quyết định được hiệu chỉnh (RLCD)'. TypeSafe AI giải thích rằng các mô hình ngôn ngữ truyền thống được tối ưu hóa để tạo ra câu trả lời hoặc văn bản phù hợp với sở thích của con người, còn Jev tập trung vào việc đưa ra xác suất và độ tin cậy của kết quả quyết định một cách nhất quán.

Mô hình không xử lý đầu vào hình ảnh và số trường lựa chọn bị giới hạn tối đa ở 255. Jev cũng không được đánh giá bằng các điểm chuẩn công khai như MMLU mà dựa trên quy trình tự động hóa công việc nội bộ của TypeSafe AI.

TypeSafe AI cho biết kết quả đánh giá nội bộ có thể bao gồm sai lệch, đồng thời tính bền vững dài hạn của mức giá vẫn cần được kiểm chứng thêm. Vì vậy, khó có thể diễn giải rộng kết quả trên các điểm chuẩn công khai hoặc hiệu quả chi phí dài hạn thành lợi thế chung của Jev.

Diogo Almeida, nhà sáng lập TypeSafe AI, từng tham gia nghiên cứu liên quan đến InstructGPT tại OpenAI. Thông báo chính thức của TypeSafe AI cho biết Jev trả về kết quả có cấu trúc thay vì tạo câu văn.

Quỹ đầu tư DCVC cho biết đã dẫn đầu vòng đầu tư hạt giống trị giá 40 triệu USD (khoảng 544 tỷ won) dành cho TypeSafe AI, trong bối cảnh công ty tập trung phát triển mô hình phục vụ tự động hóa.

Jev gần với một mô-đun quyết định kết nối vào phần mềm hiện có hơn là một mô hình thay thế trí tuệ nhân tạo hội thoại. Đặc điểm chính của Jev là nhấn mạnh tốc độ và tính nhất quán của định dạng đầu ra thay vì khả năng tạo văn bản.

Việc Jev có thể duy trì thời gian phản hồi và cấu trúc chi phí được nêu trong đánh giá nội bộ khi vận hành trong môi trường tự động hóa thực tế sẽ phụ thuộc vào từng trường hợp sử dụng và kết quả kiểm chứng bổ sung. Hiện TypeSafe AI đang cung cấp mô hình cho nhà phát triển theo hình thức truy cập sớm.