18 khuyến nghị về AI tạo sinh: Chuyên gia Pháp đề xuất đánh giá trước khi ra mắt

Ủy ban chuyên gia tại Pháp khuyến nghị đánh giá rủi ro của các dịch vụ AI tạo sinh dành cho người tiêu dùng trước khi ra mắt tại châu Âu, đồng thời tiếp tục giám sát sau khi phát hành.

Văn phòng Tổng thống Pháp (Élysée) cho biết ngày 10, ủy ban chuyên gia do Hội đồng AI và Kỹ thuật số thành lập đã trình Tổng thống Emmanuel Macron báo cáo “AI tạo sinh và các nhóm dễ bị tổn thương”. Ủy ban gồm 9 chuyên gia thuộc nhiều lĩnh vực, đã tham vấn 55 lần với đại diện ngành y tế, nghiên cứu, giáo dục, doanh nghiệp và các tổ chức bảo vệ trẻ em, rồi xây dựng 18 khuyến nghị.

Đánh giá trước khi ra mắt áp dụng cho AI hội thoại dành cho người tiêu dùng, bao gồm chatbot tích hợp trên mạng xã hội; AI dùng trong công việc nằm ngoài phạm vi khuyến nghị này. Ủy ban đề xuất đánh giá độc lập, đa ngành để xem xét tác động tâm lý và xã hội. Trước đó, TokenPost đưa tin người đứng đầu bộ phận AI của Microsoft(MSFT) cho rằng chính phủ nên tham gia đánh giá trước khi các mô hình AI tiên tiến được công bố.

Ủy ban cũng đề nghị tiếp tục theo dõi tác động tới người dùng sau khi sản phẩm được phát hành và đánh giá lại khi mô hình có thay đổi lớn. Báo cáo kêu gọi xây dựng khung pháp lý để cơ quan có thẩm quyền và giới nghiên cứu được tiếp cận dữ liệu về việc sử dụng, huấn luyện và thương mại hóa mô hình.

Về thiết kế và an toàn, ủy ban khuyến nghị quản lý các thiết kế khiến AI luôn đồng tình với người dùng hoặc tạo cảm giác như con người. Dịch vụ dành cho người chưa thành niên nên mặc định bật chế độ an toàn và lọc yêu cầu nguy hiểm. Nếu câu trả lời của AI chịu ảnh hưởng thương mại, dịch vụ cần nêu rõ điều đó; báo cáo đề xuất cấm quảng cáo ẩn và tác động thương mại khai thác điểm dễ bị tổn thương của người dùng.

Nếu AI suy luận thông tin như tình trạng sức khỏe hoặc quan điểm chính trị từ hội thoại, người dùng cần được thông báo về nhóm thông tin được suy luận và có thể xem xét hoặc phản đối kết quả. Với việc sử dụng thông tin cho mục đích thương mại, ủy ban đề xuất các biện pháp bảo vệ theo quy định về quyền riêng tư và cho phép người dùng từ chối.

Khuyến nghị còn đề cập giáo dục và xử lý thông tin sai lệch. Ủy ban đề xuất dạy trẻ cách sử dụng AI và nhận biết rủi ro từ sớm, đồng thời xây dựng cơ chế để các bộ ngành và nhà phát triển trao đổi nhanh khi thông tin sai lệch do AI tạo ra lan rộng. Đầu năm nay, số người dùng AI tạo sinh duy nhất tại Pháp là 33 triệu. Ủy ban ghi nhận tiềm năng ứng dụng của công nghệ, nhưng nhận định quy định hiện hành đang phân tán trong nhiều văn bản luật và việc đánh giá còn thiên về sau khi sản phẩm ra mắt. Đây là khuyến nghị chính sách của ủy ban chuyên gia; việc trình báo cáo không tự động tạo ra nghĩa vụ pháp lý.