Google đề xuất CALLIOPE phân loại hội thoại AI không gom cụm embedding, quyền riêng tư ở cấp tài liệu

Các nhà nghiên cứu Google đề xuất một phương pháp phân loại chủ đề hội thoại với trí tuệ nhân tạo (AI) tạo sinh mà không cần gom cụm dựa trên embedding. Phương pháp áp dụng quyền riêng tư vi sai khi tổng hợp từ khóa, nhưng mức bảo vệ được bài báo nêu là ở cấp một tài liệu.

Edith Cohen cùng các nhà nghiên cứu thuộc Google Research, Google và Google DeepMind công bố bài báo về CALLIOPE trên arXiv ngày 21 (giờ Hàn Quốc). Bài báo trình bày quy trình xây dựng hệ thống chủ đề cấp cao và cấp thấp từ các tài liệu phi cấu trúc, cùng kết quả đánh giá.

Các phương pháp dựa trên embedding thường chuyển câu thành vector số, rồi gom những tài liệu có ý nghĩa tương tự. CALLIOPE bỏ qua bước gom cụm vector này và dùng mô hình ngôn ngữ lớn (LLM) để tóm tắt tài liệu, tạo từ khóa và phân loại chủ đề.

Trước tiên, LLM tạo phần tóm tắt và từ khóa cho từng tài liệu. Sau đó, hệ thống tổng hợp tần suất từ khóa để đề xuất cấu trúc chủ đề và gán từng bản tóm tắt vào chủ đề phù hợp. Lặp lại quy trình này sẽ tạo các chủ đề chi tiết bên dưới những chủ đề lớn hơn.

Quyền riêng tư vi sai được áp dụng ở bước tổng hợp từ khóa để xây dựng cấu trúc chủ đề. Các nhà nghiên cứu thiết kế hệ thống để thêm nhiễu vào tần suất từ khóa và lọc những mục xuất hiện hiếm, qua đó hạn chế ảnh hưởng của nội dung trong một tài liệu cụ thể lên kết quả được công bố.

Khi tăng mức bảo vệ quyền riêng tư, phân loại chủ đề có thể trở nên rộng và kém chi tiết hơn. Các nhà nghiên cứu cho biết việc tăng cường cài đặt quyền riêng tư có thể giúp giảm mức suy giảm đột ngột về chất lượng phân loại so với các phương pháp dựa trên embedding hiện có.

Tuy nhiên, mức bảo đảm hiện được bài báo nêu áp dụng cho một tài liệu hội thoại. Bài báo cho biết cần nghiên cứu thêm về quyền riêng tư vi sai ở cấp cá nhân, vốn bảo vệ toàn bộ các cuộc hội thoại mà một người để lại qua nhiều lần.

Trước đó, ngày 10 tháng 12 năm 2025, Google Research giới thiệu URANIA. Phương pháp này chuyển hội thoại thành embedding, sau đó áp dụng quyền riêng tư vi sai để gom cụm, rồi trích xuất từ khóa và tóm tắt bằng LLM. Theo mô tả của Google Research, ở bước tóm tắt, LLM sử dụng các từ khóa đã được xử lý riêng tư thay vì hội thoại gốc.

CALLIOPE bỏ bước gom cụm vector trong quá trình phân loại chủ đề và tập trung vào tóm tắt cùng việc tổng hợp từ khóa. Tuy nhiên, việc không dùng embedding không có nghĩa là hội thoại gốc không được đưa vào LLM.

Nhóm nghiên cứu so sánh CALLIOPE với CLIO và URANIA trên 6 bộ dữ liệu, gồm MASSIVE về phát ngôn đa ngôn ngữ, Banking77 về yêu cầu của khách hàng ngân hàng, cùng các tài liệu đánh giá phim và tin tức. Bài báo đánh giá chất lượng kết quả phân loại và phần mô tả chủ đề bằng nhiều chỉ số cho từng bộ dữ liệu.

Nhóm nghiên cứu báo cáo CALLIOPE đạt kết quả tốt hơn URANIA ở các chỉ số NMI và ARI, vốn đánh giá mức độ khớp với các nhóm chuẩn, cùng một số đánh giá chủ đề. Ở các chỉ số xem xét cấu trúc bên trong cụm, kết quả của CALLIOPE tương đương hoặc tốt hơn URANIA.

Phụ lục bài báo ghi nhận lượng token trên bộ dữ liệu MASSIVE là 576 triệu với CALLIOPE và 123 triệu với URANIA, trong thiết lập không có quyền riêng tư vi sai ở độ sâu tối đa và sử dụng Gemini 3.5 Flash. Đây là số liệu của thiết lập thử nghiệm cụ thể trong bài báo.

Bài báo nêu việc phải chạy LLM nhiều lần cho mỗi tài liệu là một hạn chế về chi phí tính toán. Vì vậy, lượng token trong thử nghiệm không trực tiếp thể hiện chi phí vận hành hay tốc độ xử lý của một dịch vụ thực tế.

Tài liệu gốc được đưa vào LLM ngay từ bước đầu để chuyển thành phần tóm tắt và từ khóa. Bảo đảm quyền riêng tư vi sai đối với kết quả chủ đề được công bố là vấn đề riêng với việc bảo vệ hội thoại gốc trong quá trình thu thập, lưu trữ và xử lý bằng mô hình.

Đánh giá được thực hiện trên 6 bộ dữ liệu, không phải nhật ký hội thoại riêng tư từ các dịch vụ AI thực tế. Nghiên cứu này trình bày phương pháp phân loại chủ đề và phạm vi bảo vệ dữ liệu cá nhân, nhưng không đề cập kết quả ứng dụng trong dịch vụ thực tế.