EU đề xuất luật hạn chế chatbot mô phỏng cảm xúc của trẻ vị thành niên

Ủy ban châu Âu đề xuất dự luật hạn chế thiết kế các chatbot AI có khả năng mô phỏng mối quan hệ với trẻ vị thành niên và con người, qua đó có thể gây ra sự phụ thuộc về cảm xúc. Trong EU KIDS Act công bố ngày 17, Ủy ban châu Âu cho biết các chatbot AI và dịch vụ bạn đồng hành AI dành cho trẻ vị thành niên sẽ phải tuân thủ nghĩa vụ thiết kế an toàn.

Ủy ban châu Âu cho biết các dịch vụ này về cơ bản không được sử dụng những cuộc trò chuyện trước đó của trẻ cho các cuộc trò chuyện tiếp theo. Các dịch vụ cũng phải kiểm tra rủi ro đối với trẻ trước khi ra mắt và tiếp tục theo dõi thiệt hại sau khi phát hành. Chatbot được tích hợp trong nền tảng hoặc trò chơi không được tự động kích hoạt hay khuyến khích trẻ sử dụng, đồng thời phải có thể dễ dàng tắt.

Ủy ban châu Âu cũng đề xuất các mốc tuổi theo từng giai đoạn: cấm tài khoản mạng xã hội đối với trẻ dưới 13 tuổi, cho phép trẻ từ 13 đến 14 tuổi sử dụng tài khoản có sự giám sát của phụ huynh, và cho phép tài khoản độc lập từ 15 tuổi. EU KIDS Act hiện mới ở giai đoạn đề xuất và chưa được xác lập thành luật.