NVIDIA công bố quy trình SFT Nemotron dựa trên persona theo khu vực

NVIDIA($NVDA) đã công bố quy trình tạo dữ liệu tinh chỉnh có giám sát (SFT) cho Nemotron dựa trên persona theo khu vực. Tài liệu kỹ thuật mô tả cách xây dựng dữ liệu huấn luyện qua các bước tạo câu hỏi, loại bỏ câu hỏi trùng lặp và so sánh câu trả lời từ nhiều mô hình.

Tài liệu của NVIDIA hướng dẫn tạo câu hỏi dựa trên persona theo khu vực, lọc câu hỏi trùng lặp rồi thu thập câu trả lời từ nhiều mô hình giáo viên. Đây là các mô hình tạo câu trả lời để dùng trong quá trình huấn luyện.

Trang dành cho nhà phát triển của NVIDIA giới thiệu các bộ dữ liệu persona tại một số khu vực, trong đó có Pháp và Bỉ. Tuy nhiên, tài liệu không đưa ra ví dụ cho thấy hai bộ dữ liệu này đã được dùng thực tế để tạo câu hỏi theo quy trình trên.

Persona là hồ sơ về một nhân vật giả định sống tại một khu vực cụ thể. Quy trình lấy thông tin khu vực làm cơ sở tạo câu hỏi, sau đó yêu cầu nhiều mô hình giáo viên trả lời những câu hỏi đã qua bước lọc trùng lặp.

NVIDIA chọn dữ liệu huấn luyện dựa trên các tiêu chí như mức độ thống nhất giữa câu trả lời của những mô hình giáo viên. Sự đồng thuận giữa các mô hình cho thấy câu trả lời nhất quán, nhưng không xác minh được tính xác thực. Cần kiểm tra riêng xem câu trả lời có phù hợp với thể chế hoặc quy định địa phương hay không.

Các câu hỏi và câu trả lời được chọn sẽ được đóng gói thành tệp huấn luyện theo ngôn ngữ và mô hình giáo viên. Nhà phát triển có thể chuyển trực tiếp các tệp này vào AutoModel SFT hoặc đóng gói để sử dụng với Megatron-Bridge.

Các tài liệu của NVIDIA về AI chủ quyền chia quy trình điều chỉnh mô hình cho ngôn ngữ hoặc khu vực mới thành nhiều bước, từ chuẩn bị dữ liệu đến huấn luyện và đánh giá. Từng bước được tài liệu hóa riêng; hiện không có một lệnh duy nhất để chạy toàn bộ quy trình.

Tài liệu không nêu trường hợp triển khai tại các dịch vụ công ở Pháp hoặc Bỉ, cũng không cho biết mô hình được tinh chỉnh bằng quy trình này đã cải thiện hiệu suất. Trước đó, NVIDIA đã giới thiệu bộ công cụ phát triển Nemotron cung cấp đồng thời mô hình mở, dữ liệu và quy trình huấn luyện.