Dự án trí tuệ nhân tạo QVAC thuộc Tether cho biết đã chuyển lời thoại của một bộ phim dài 96 phút thành văn bản trên iPhone trong 28,7 giây mà không cần kết nối internet.
Tài khoản chính thức của QVAC cho biết thử nghiệm được thực hiện khi iPhone ở chế độ máy bay, không kết nối với đám mây. Trong cùng lần công bố, QVAC nói đã biến một câu chuyện dài 12 phút thành sách nói trong 32 giây.
Paolo Ardoino (Paolo Ardoino), CEO của Tether, nói QVAC là “công cụ giọng nói nhanh nhất trên thị trường”. Đây là đánh giá do QVAC tự đưa ra khi mô tả công nghệ của mình.
QVAC sử dụng mô hình nhận dạng giọng nói TranscribePsy để thực hiện việc chép lời. Mô hình được xử lý trên Neural Engine của Apple (AAPL), và QVAC cho biết tốc độ này nhanh gấp 5 lần so với khi chạy trên GPU của iPhone.
Tài liệu giới thiệu chính thức của QVAC mô tả TranscribePsy là mô hình có 254M (254 triệu) tham số. Mô hình hỗ trợ 25 ngôn ngữ châu Âu trên máy tính xách tay và 8 ngôn ngữ trên điện thoại; QVAC cũng cho biết iPhone 17 Pro Max có thể xử lý bản ghi âm 10 phút trong 1,65 giây.
QVAC cho biết đã chạy cùng một tệp âm thanh trên 6 mẫu smartphone gồm iPhone 17 Pro Max, iPhone 15, Galaxy S26 Ultra, Galaxy S25 Ultra, Pixel 10 và Pixel 9 để đo hiệu suất. Các con số trên đến từ chính thử nghiệm này.
TranscribePsy sử dụng khoảng 530–540 MiB bộ nhớ trên điện thoại. Mô hình được thiết kế để tệp âm thanh không rời khỏi thiết bị, nên vẫn có thể xử lý khi mất kết nối mạng.
Phiên bản điện thoại hiện hỗ trợ tiếng Hà Lan, tiếng Anh, tiếng Pháp, tiếng Đức, tiếng Ý, tiếng Ba Lan, tiếng Bồ Đào Nha và tiếng Tây Ban Nha. Tiếng Hàn chưa nằm trong danh sách hỗ trợ.
Hệ thống xử lý sau khi ghi âm kết thúc, còn tính năng chép lời theo thời gian thực vẫn đang được phát triển. QVAC cho biết công nghệ này có thể phục vụ ghi âm cuộc họp, bài giảng và tạo phụ đề trong những trường hợp khó gửi tệp âm thanh lên máy chủ bên ngoài.
Trước đó, ngày 11, Tether đã công bố tác nhân AI trên thiết bị QVAC BotPsy với 800 triệu tham số. BotPsy tập trung vào việc gọi chức năng ứng dụng và thực hiện tác vụ, trong khi TranscribePsy đảm nhiệm bước đầu vào là chuyển giọng nói thành văn bản.
Tether đã công bố QVAC SDK vào tháng 4, giới thiệu đây là nền tảng để chạy và tinh chỉnh AI trên điện thoại, máy tính cùng các thiết bị khác. SDK cũng đưa ra tính năng AI hoạt động khi kết nối internet bị hạn chế và kết nối trực tiếp giữa các thiết bị (P2P).
AI trên thiết bị là phương thức chạy mô hình ngay trên thiết bị của người dùng thay vì máy chủ. Giảm việc truyền dữ liệu lên đám mây giúp hệ thống ít phụ thuộc hơn vào mạng, nhưng hiệu suất thiết bị và dung lượng bộ nhớ vẫn quyết định tốc độ xử lý cũng như phạm vi ngôn ngữ hỗ trợ.
Lần công bố này cho thấy QVAC đã xử lý nhận dạng giọng nói và tạo sách nói ngay trên thiết bị. Tuy nhiên, phiên bản điện thoại mới hỗ trợ 8 ngôn ngữ châu Âu, nên chưa thể dùng ngay để chép lời tiếng Hàn.
Trong tài liệu giới thiệu chính thức ngày 14 tháng 10, QVAC cho biết đang phát triển các mô hình nhỏ hơn và nhanh hơn, bổ sung ngôn ngữ mới cùng tính năng phát trực tuyến. QVAC cũng dự kiến công bố báo cáo kỹ thuật về hiệu suất theo từng ngôn ngữ.
Comment 0