2,8 nghìn tỷ tham số: Harvey phát triển AI pháp lý từ Kimi K3

Công ty trí tuệ nhân tạo pháp lý Harvey đã phát triển mô hình chuyên biệt cho ngành luật dựa trên Kimi K3, mô hình mở trọng số có khoảng 2,8 nghìn tỷ tham số của Moonshot AI. Động thái này được xem là nỗ lực giảm phụ thuộc vào các nhà cung cấp mô hình bên ngoài và bổ sung lớp mô hình dành riêng cho nghiệp vụ pháp lý. Hiệu quả tiết kiệm chi phí hiện chưa được xác nhận.

Ngày 20 tháng 8, Harvey công bố 'Harvey Tenet', một bản xem trước nghiên cứu được hậu huấn luyện từ Kimi K3. Tenet là mô hình mở trọng số do Harvey phối hợp với Fireworks Research phát triển trong thời gian dài, hướng tới việc xử lý các nhiệm vụ pháp lý kéo dài. Harvey mô tả đây là mô hình hậu huấn luyện đầu tiên được tối ưu cho công việc pháp lý.

Trong LAB, hệ thống đánh giá tác nhân pháp lý nội bộ của Harvey, Tenet hoàn thành số nhiệm vụ bị tạm dừng gần gấp đôi so với Kimi K3. Ở nhóm tác vụ liên quan đến hợp đồng, số nhiệm vụ hoàn thành tăng 20%. Tuy nhiên, cả hai con số đều là kết quả tự đánh giá trong môi trường do Harvey thiết kế.

Mô hình mở trọng số là mô hình cho phép doanh nghiệp sử dụng các trọng số đã được huấn luyện để triển khai trên hạ tầng riêng hoặc môi trường đám mây. So với mô hình đóng phụ thuộc vào API bên ngoài, mô hình này cho phép doanh nghiệp chủ động hơn trong việc lựa chọn môi trường triển khai. Dù vậy, việc công khai trọng số không đồng nghĩa với công khai toàn bộ mã nguồn, dữ liệu huấn luyện và cấu trúc vận hành.

Kimi K3 là mô hình mở trọng số do Moonshot AI công bố. Cần phân biệt tổng số tham số với số tham số hoạt động thực tế trong quá trình tính toán. Harvey đã áp dụng quy trình hậu huấn luyện trên các trọng số của Kimi K3, phù hợp với dữ liệu pháp lý và môi trường tác nghiệp.

Chiến lược đa mô hình của Harvey được mở rộng từ tháng 5 năm 2025 theo hướng kết hợp các mô hình bên ngoài cho từng nghiệp vụ. Harvey cho biết họ vẫn duy trì các mô hình của OpenAI, đồng thời bổ sung Claude của Anthropic và Gemini của Google vào nền tảng, sau đó tự động phân bổ mô hình phù hợp cho các công việc như soạn thảo tài liệu pháp lý, chuẩn bị xét xử và tranh tụng miệng.

Tenet gần với một trường hợp bổ sung lớp mô hình nội bộ hơn là loại bỏ cấu trúc định tuyến các mô hình bên ngoài. Harvey đang mở rộng khả năng cạnh tranh của sản phẩm bằng cách kiểm soát không chỉ mô hình mà còn cả dữ liệu pháp lý, môi trường tác nghiệp và hệ thống đánh giá.

Harvey cũng công bố Legal Agent Benchmark (LAB) của riêng mình. LAB được thiết kế để đánh giá các nhiệm vụ kéo dài gần với công việc pháp lý thực tế, chẳng hạn như rà soát tài liệu, soạn bản ghi nhớ và chỉnh sửa hợp đồng. Hệ thống đánh giá cùng các kết quả liên quan được đăng trong bộ tiêu chuẩn đánh giá tác nhân pháp lý do Harvey công bố.

Việc sử dụng mô hình mở trọng số nhằm đồng thời hướng tới chi phí và quyền kiểm soát. Doanh nghiệp có thể giảm chi phí gọi API bên ngoài, nhưng phải đối mặt với các khoản mới như phí thuê GPU, quy mô suy luận, nhân sự vận hành và cơ sở hạ tầng bảo mật. Harvey chưa công bố Tenet đã thực sự giúp giảm chi phí ở mức nào.

Ngày 9 tháng 9, Harvey cho biết đã huy động 550 triệu USD, tương đương khoảng 748 tỷ won, và được định giá 15,5 tỷ USD, tương đương khoảng 21,1 nghìn tỷ won. Quy đổi sang won được tính theo tỷ giá khoảng 1 USD đổi 1.360 won.

Harvey cho biết sẽ sử dụng khoản đầu tư để phát triển AI và mở rộng nhân sự phục vụ các công ty luật và bộ phận pháp chế doanh nghiệp. Công ty cũng cho biết nền tảng của mình đang được sử dụng tại 80% các hãng luật thuộc Am Law 100 và 5 trong 10 doanh nghiệp lớn nhất theo Fortune. Các con số về doanh thu định kỳ hằng năm 400 triệu USD và hơn 3.000 khách hàng không xuất hiện trong thông cáo đầu tư chính thức.

Trong cộng đồng công nghệ pháp lý, một số ý kiến cho rằng lợi nhuận của Harvey có thể bị hạn chế nếu công ty tiếp tục chịu chi phí API cho các mô hình bên ngoài. Ở chiều ngược lại, cũng có ý kiến cho rằng mô hình nội bộ có thể giúp tạo khác biệt cho sản phẩm pháp lý. Đây là phản ứng của một bộ phận người dùng trực tuyến và không thể khái quát thành đánh giá của toàn ngành.

Việc sử dụng mô hình nền tảng do Trung Quốc phát triển trong dịch vụ pháp lý cũng đặt ra các vấn đề về bảo mật khách hàng, quyền tài phán dữ liệu và sự phụ thuộc vào chuỗi cung ứng. Harvey cho biết dữ liệu khách hàng không được sử dụng để huấn luyện mô hình nếu chưa có sự chấp thuận rõ ràng, nhưng chưa công bố môi trường vận hành cụ thể và cách Tenet xử lý dữ liệu.

Xu hướng mô hình mở trọng số của Trung Quốc cạnh tranh với mô hình đóng của Mỹ từng được TokenPost đưa tin trước đây. Trường hợp này cho thấy mô hình mở trọng số có thể được sử dụng để phát triển sản phẩm trong các lĩnh vực đòi hỏi chuyên môn cao như pháp lý, thay vì chỉ phục vụ nghiên cứu.

Harvey không cho biết sẽ ngừng sử dụng các mô hình của OpenAI, Anthropic và Google khi công bố Tenet. Điều được xác nhận qua 발표 lần này là Harvey đã bổ sung mô hình hậu huấn luyện nội bộ và hệ thống đánh giá chuyên biệt cho pháp lý vào cấu trúc đa mô hình hiện có, đồng thời đưa ra kết quả hiệu năng dựa trên đánh giá nội bộ.

Mức độ chính xác và chi phí vận hành của Tenet trong công việc pháp lý thực tế vẫn cần được kiểm chứng độc lập và đánh giá qua kết quả triển khai thương mại.