Meta được khuyến nghị gắn nhãn AI rủi ro cao, hạn chế đề xuất

Hội đồng Giám sát Meta (Meta Oversight Board) khuyến nghị Meta($META) áp dụng biện pháp theo từng cấp độ đối với nội dung AI rủi ro cao, gồm gắn nhãn, giảm phân phối trong mục đề xuất hoặc xóa nội dung. Mục tiêu là đánh giá dựa trên mức độ rủi ro và khả năng gây thiệt hại thực tế, thay vì xóa hàng loạt chỉ vì nội dung được tạo bằng AI.

Hội đồng Giám sát Meta đã xem xét một video bị thao túng bằng AI liên quan đến xung đột Israel-Iran hồi tháng 3. Video này dựng cảnh khu vực Haifa của Israel hứng chịu một cuộc tấn công bằng tên lửa và thu hút hơn 700.000 lượt xem. Sáu người dùng đã báo cáo video, nhưng Meta không xem xét nội dung cũng không gắn nhãn AI.

Hội đồng nhận định nội dung này chưa đạt ngưỡng xóa vì ít có khả năng gây ra bạo lực hoặc tổn hại thể chất trong thời gian ngắn. Tuy nhiên, nội dung có nguy cơ cao khiến công chúng hiểu sai về một vấn đề quan trọng nên đáng lẽ phải được gắn nhãn 'AI rủi ro cao'. Những đánh giá và khuyến nghị liên quan được nêu trong quyết định của Hội đồng Giám sát Meta công bố ngày 10 tháng 3.

Hội đồng cho rằng chỉ gắn nhãn AI rủi ro cao là chưa đủ để ngăn nội dung lan rộng. Một số thành viên đề xuất giảm mức độ xuất hiện trong mục đề xuất hoặc loại nội dung khỏi các khu vực đề xuất nếu nội dung có thể đánh lừa người dùng về những vấn đề quan trọng. Với nội dung có khả năng gây thiệt hại lớn hơn, hội đồng cho rằng nền tảng cũng cần cân nhắc biện pháp xóa bỏ.

Khuyến nghị bao gồm việc xây dựng một bộ tiêu chuẩn cộng đồng riêng cho nội dung do AI tạo ra, tách biệt với chính sách thông tin sai lệch. Hội đồng cũng đề xuất đưa thông tin nguồn gốc và watermark ẩn vào nội dung được tạo bằng Meta AI, đồng thời mở rộng áp dụng tiêu chuẩn C2PA để xác minh lịch sử tạo và chỉnh sửa nội dung.

Hội đồng đề nghị tăng cường công nghệ tự động nhận diện nội dung AI và xây dựng hệ thống phát hiện bao quát âm thanh, video và hình ảnh. Meta cũng được yêu cầu công khai rõ hơn tiêu chí xử phạt khi người dùng không tiết lộ việc sử dụng AI, cùng các biện pháp tiếp theo như hạn chế đề xuất.

Meta không chấp nhận khuyến nghị xây dựng bộ tiêu chuẩn cộng đồng riêng cho nội dung AI. Trong bài viết công bố vào tháng 5, Hội đồng Giám sát Meta cho biết Meta đã thực hiện một phần các khuyến nghị và đang xem xét tăng cường thông tin nguồn gốc nội dung, công cụ phát hiện và watermark. Meta cũng đang đánh giá tính khả thi của việc mở rộng nhãn 'rủi ro cao' và 'AI rủi ro cao', cũng như tiêu chí xử phạt hành vi không công khai việc sử dụng AI.

Khuyến nghị này cho thấy chính sách hiển thị nội dung AI trên các nền tảng đang chuyển sang kết hợp gắn nhãn với hạn chế đề xuất. Các biện pháp chi tiết và lịch triển khai mà Meta đang xem xét vẫn cần được công bố thêm.