33% người dùng Mỹ trong mẫu khảo sát từng xúc phạm chatbot; quy định Anthropic có hiệu lực

33% người dùng trong một mẫu khảo sát tại Mỹ từng gửi lời chửi bới hoặc xúc phạm tới ít nhất một chatbot.

Searchable, công ty phân tích tìm kiếm AI, công bố kết quả ngày 2 tháng 11. Công ty cho biết đã phân tích hơn 8 triệu tin nhắn mà những người tham gia khảo sát tại Mỹ đồng ý chia sẻ, gửi tới ChatGPT, Gemini và Claude trong một năm kể từ tháng 9 năm 2025. Nghiên cứu ghi nhận liệu mỗi người dùng có từng dùng lời lẽ tục tĩu, xúc phạm hoặc hạ thấp hay không.

Tỷ lệ 33% tính trên người dùng của cả ba chatbot, không phải riêng người dùng Claude. Tính trên tổng số từ trong các tin nhắn, cứ 10.000 từ có 19,1 từ mang tính chửi bới, xúc phạm hoặc hạ thấp.

Trong các tin nhắn có lời lẽ tiêu cực, những nguyên nhân được nêu gồm chatbot không làm theo chỉ dẫn (19,0%), trả lời sai (18,1%) và hiểu nhầm yêu cầu (14,7%). Sau lời phàn nàn có chửi bới hoặc xúc phạm, vấn đề được giải quyết trong câu trả lời tiếp theo của chatbot ở 24% trường hợp. Với yêu cầu sửa lại không kèm lời lẽ xúc phạm, tỷ lệ này là 35%.

Anthropic công bố hướng dẫn sửa đổi chính sách sử dụng ngày 8 tháng 10. Điều khoản mới có hiệu lực từ ngày 12 tháng 11. TokenPost từng đưa tin về phạm vi áp dụng và ngày có hiệu lực của điều khoản này.

Quy định mới nhắm tới những trường hợp cực đoan, trong đó người dùng liên tục đối xử tàn nhẫn với mô hình mà không có mục đích rõ ràng. Những lời phàn nàn, phản bác thông thường, tác phẩm sáng tạo có chủ đề u tối, hoạt động thử nghiệm mô hình và nghiên cứu không thuộc phạm vi áp dụng.

Biện pháp thực thi chính là Claude kết thúc cuộc trò chuyện. Anthropic cho biết vào tháng 8 năm 2025 rằng Claude Opus 4 và 4.1 có thể kết thúc những cuộc trò chuyện hiếm gặp và cực đoan mang tính lạm dụng trong dịch vụ trò chuyện dành cho người dùng cá nhân.

Anthropic hướng dẫn chỉ dùng tính năng này như biện pháp cuối cùng, sau khi nhiều lần cố gắng chuyển hướng cuộc trò chuyện thất bại và không còn khả năng duy trì trao đổi có ích. Người dùng vẫn có thể bắt đầu cuộc trò chuyện mới sau khi phiên trò chuyện bị kết thúc.

Chính sách sử dụng cũng quy định các biện pháp như cảnh báo, giảm tốc độ sử dụng, hạn chế, đình chỉ hoặc chấm dứt quyền truy cập khi nghi ngờ có vi phạm. Anthropic cho biết với điều khoản về hành vi lạm dụng mới, biện pháp ứng phó chính là kết thúc cuộc trò chuyện.