10 triệu token: Pokee AI ra mắt mô hình nhắm chạy on-device

Pokee AI vừa công bố mô hình AI dạng agent “Pokee-Isaac 28B”, hỗ trợ cửa sổ ngữ cảnh tối đa 10 triệu token. Công ty giữ quy mô mô hình ở mức 28 tỷ tham số, tập trung vào khả năng xử lý tài liệu dài, kho mã nguồn và lịch sử gọi công cụ trong cùng một lượt.

Pokee AI cho biết trên trang mô hình chính thức và báo cáo kỹ thuật rằng Pokee-Isaac 28B đạt 93,3 điểm ở phân đoạn 10 triệu token trong benchmark ngữ cảnh dài RULER. Mức giá tạm thời được đưa ra là 0,15 USD (khoảng 214 won) cho mỗi 1 triệu token đầu vào và 1 USD (khoảng 1.429 won) cho mỗi 1 triệu token đầu ra.

Cửa sổ ngữ cảnh là phạm vi dữ liệu đầu vào mà một mô hình AI có thể đọc và tham chiếu trong một lần xử lý. Với các AI agent, ngoài chỉ dẫn của người dùng, hệ thống còn phải cộng dồn quá trình suy luận trung gian, kết quả gọi công cụ bên ngoài, nội dung tệp và lịch sử tác vụ trước đó, nên tác vụ càng kéo dài thì càng cần cửa sổ ngữ cảnh rộng.

Khi cửa sổ ngữ cảnh hẹp, hệ thống buộc phải tóm tắt hoặc cắt bớt dữ liệu tích lũy. Pokee AI giải thích rằng Isaac được thiết kế để giảm bớt gánh nặng nén dữ liệu này, giúp mô hình xử lý các tác vụ dài trong môi trường mạng nội bộ doanh nghiệp, on-premise và chạy trực tiếp trên thiết bị.

Theo báo cáo kỹ thuật, điểm RULER lần lượt là △256.000 token: 96,9 điểm △512.000 token: 96,7 điểm △1 triệu token: 95,0 điểm △2 triệu token: 95,8 điểm △4 triệu token: 96,7 điểm △10 triệu token: 93,3 điểm. Công ty cho biết dù độ dài ngữ cảnh tăng gần 40 lần, điểm số vẫn duy trì trên ngưỡng 90.

Nhóm mô hình được đưa vào so sánh trong cùng bảng đánh giá gồm GPT-5.6 Luna, Gemini 3.5 Flash Lite, Claude Haiku 4.5, Nemotron 3 Super 120B và Qwen 3.5 122B. Theo đánh giá của Pokee AI, các mô hình này không có điểm số khả dụng ở phân đoạn từ 2 triệu token trở lên.

Tuy nhiên, các con số benchmark nói trên là kết quả do chính Pokee AI đo lường trong môi trường tự kiểm soát. Hiện chưa có kết quả tái lập độc lập từ tổ chức nghiên cứu hay nhà phát triển bên ngoài trong cùng điều kiện.

Ở một số tác vụ, các mô hình đám mây đối chứng lại vượt trội hơn. Trong 86 tác vụ chỉ dùng văn bản của Terminal-Bench 2.1, GPT-5.6 Luna đạt 69,8%, còn Pokee-Isaac 28B đạt 65,1%. Chính Pokee AI cũng ghi nhận hiệu năng của Isaac thua kém ở hạng mục này.

Thông tin công khai về cấu trúc mô hình vẫn còn hạn chế. Pokee AI giới thiệu Isaac là mô hình nền tảng “không thuần decoder”, nhưng chưa công bố đầy đủ kiến trúc chi tiết, cơ chế attention hay cách vận hành bộ nhớ. Công ty cho biết một phần trọng số được tạo ra bằng cách fine-tune Qwen3.6-27B, mô hình có giấy phép Apache 2.0.

Pokee AI thành lập năm 2024. Zheqing Bill Zhu, nhà sáng lập Pokee AI, được giới thiệu là người từng phụ trách mảng học tăng cường ứng dụng (applied reinforcement learning) tại Meta.

Theo GeekWire đưa tin tháng 7 năm 2025 (giờ địa phương), Pokee AI đã huy động thành công vòng gọi vốn hạt giống 12 triệu USD (khoảng 17,1 tỷ won) do Point72 Ventures dẫn dắt. Qualcomm và Samsung cũng tham gia vòng đầu tư này.

Pokee-Isaac 28B không phải là mô hình gắn trực tiếp với dự án tiền mã hóa hay việc phát hành token. Tuy vậy, với các sàn giao dịch, đơn vị lưu ký, tổ chức phân tích on-chain và bộ phận tuân thủ vốn khó đưa dữ liệu nhạy cảm ra nền tảng đám mây bên ngoài, AI chạy trên mạng nội bộ hoặc on-premise có thể trở thành một lựa chọn được cân nhắc. Trước đó, Tether Data cũng đã công bố một mô hình AI 460 triệu tham số nhắm tới khả năng chạy trực tiếp trên thiết bị.

Hiệu quả thực tế của khả năng xử lý 10 triệu token và cấu trúc chi phí mà Pokee AI đưa ra sẽ phụ thuộc vào việc kết quả có được tái lập trong môi trường bên ngoài hay không. Các số liệu hiện tại chỉ mới được công bố trên trang mô hình và báo cáo kỹ thuật của công ty.