Instagram hạn chế hồ sơ AI giả người thật, đổi nhãn nhận diện mới

Instagram sẽ gắn nhãn mới cho những hồ sơ do AI tạo ra nhưng trông giống người thật, đồng thời giảm khả năng hiển thị đối với các tài khoản không công khai việc dùng AI.

Instagram thông báo ngày 1 (giờ địa phương) rằng nhãn “AI creator” hiện tại sẽ được đổi thành “AI-generated profile”. Nhãn mới nhằm cho người dùng biết nhân vật xuất hiện trên hồ sơ không phải người thật, mà do AI tạo ra hoàn toàn hoặc phần lớn.

Đối tượng áp dụng là những hồ sơ dùng nhân vật do AI tạo ra làm gương mặt đại diện cho tài khoản. Người dùng thông thường chỉ dùng công cụ AI để chỉnh sửa ảnh, hoàn thiện câu chữ hay tạo đồ họa trong quá trình làm nội dung thì không cần gắn nhãn này.

Instagram cho biết những hồ sơ AI không gắn nhãn có thể bị giảm phạm vi tiếp cận. The Verge đưa tin bài đăng của các tài khoản này có thể không được đề xuất cho người chưa theo dõi trên Reels và tab Khám phá.

Chủ tài khoản có thể khiếu nại nếu cho rằng bị phân loại sai. Việc dùng nhân vật AI làm gương mặt đại diện hồ sơ không bị xử phạt, Instagram chỉ tập trung vào việc thông báo rõ ràng cho người dùng.

Động thái này xuất hiện trong bối cảnh ngày càng nhiều nhân vật AI tiếp cận người dùng theo cách trông giống người thật. Instagram cho biết trên blog chính thức rằng “chúng tôi nhận được phản hồi là người dùng không muốn xem một hồ sơ giống người thật rồi sau đó mới biết nhân vật đó do AI tạo ra”. Bình luận: cách diễn đạt này cho thấy trọng tâm chính sách nằm ở việc minh bạch thông tin, chứ không nhằm hạn chế bản thân công nghệ AI.

Vấn đề cốt lõi không phải là có dùng AI hay không, mà là hồ sơ có “giả làm người thật” hay không. Khi AI tạo sinh được dùng rộng rãi để làm ảnh và câu chữ, các nền tảng đứng trước áp lực phải phân biệt giữa việc dùng AI hỗ trợ sản xuất nội dung và việc vận hành một nhân vật ảo.

TechCrunch đưa tin Instagram siết chặt sự lan rộng của các hồ sơ AI không gắn nhãn trong bối cảnh người dùng ngày càng phàn nàn về các nhân vật ảnh hưởng do AI tạo ra. Wired hồi đầu năm nay công bố điều tra cho thấy một số tài khoản Instagram từng quảng bá ứng dụng hẹn hò Goose có dấu hiệu là nhân vật ảnh hưởng do AI tạo ra.

The New York Times hồi tháng 7 đưa tin phát hiện nhiều nhân vật bác sĩ, chuyên gia trị liệu và người truyền cảm hứng sức khỏe do AI tạo ra trên mạng xã hội, đưa ra các tuyên bố về thực phẩm bổ sung và sức khỏe. Đây là một trong những lý do khiến giới quan sát lo ngại người dùng dễ nhầm lẫn khi một nhân vật không có thật lại trông như có chuyên môn thật sự.

Meta gần đây vấp phải phản ứng vì một tính năng AI trên Instagram từng cho phép dùng hình ảnh của người khác để tạo ảnh mới. Sau khi người dùng phản đối việc nội dung Instagram công khai của họ bị sử dụng mà không có sự đồng ý rõ ràng, Meta đã gỡ bỏ tính năng này.

TechCrunch cho biết tuần trước Meta đã đạt thỏa thuận trị giá 18 tỷ USD với các bang tại Mỹ liên quan đến cáo buộc về ảnh hưởng của Facebook và Instagram đối với trẻ em và thanh thiếu niên. Thỏa thuận bao gồm giới hạn thời gian sử dụng mặc định cho tài khoản thanh thiếu niên, chế độ ban đêm và hạn chế thông báo trong giờ học.

Với người dùng, thay đổi này không đồng nghĩa Instagram lọc toàn bộ nội dung do AI tạo ra. Nền tảng chỉ tập trung giảm tình trạng hồ sơ lấy nhân vật AI làm gương mặt đại diện nhưng trông như người thật.

Chính sách gắn nhãn AI của các nền tảng đang chuyển theo hướng kết hợp nhãn hiển thị, hạn chế đề xuất và quy trình khiếu nại cho chủ tài khoản. Instagram khẳng định các hồ sơ đã gắn nhãn AI-generated profile sẽ không bị bất lợi chỉ vì dùng nhân vật AI làm gương mặt đại diện.