OpenAI đã công bố bộ phân loại hình ảnh có thể phát hiện cả tài liệu xâm hại tình dục trẻ em do trí tuệ nhân tạo (AI) tạo ra, đồng thời bổ sung cảnh báo và hạn chế ChatGPT trong 24 giờ với người dùng tìm kiếm nội dung liên quan. Công cụ mới phân tích đặc điểm hình ảnh để đề xuất thứ tự ưu tiên kiểm tra.
Trong thông báo ngày 16 (giờ địa phương), OpenAI giới thiệu bộ phân loại hình ảnh cùng cảnh báo trên ChatGPT, hướng dẫn dành cho nhà phát triển và công cụ hỗ trợ cơ quan điều tra. Công cụ được phát triển với sự hỗ trợ của Trung tâm Quốc gia về Trẻ em Mất tích và Bị bóc lột của Mỹ (National Center for Missing & Exploited Children, NCMEC), đồng thời được cung cấp miễn phí qua API cho các tổ chức đã qua thẩm định.
Bộ phân loại xem xét các dấu hiệu trực quan trong ảnh và chấm điểm rủi ro. Nhờ đó, người phụ trách có thể ưu tiên kiểm tra những hình ảnh chưa được xem xét trước đây hoặc tài liệu do AI tạo ra.
Phương pháp đối chiếu mã băm hiện có so sánh dấu vân tay số của hình ảnh đã được xác nhận với danh sách lưu trữ. Cách này khó xử lý những hình ảnh mới chưa có mã trong danh sách, vì vậy OpenAI mô tả bộ phân loại mới là công cụ bổ sung cho các biện pháp bảo vệ hiện có.
Trong đánh giá nội bộ trên hình ảnh do người dùng tải lên, OpenAI cho biết bộ phân loại mới phát hiện số trường hợp có tài liệu xâm hại tình dục trẻ em tương đương các biện pháp bảo vệ hiện có, nhưng đánh dấu ít hơn 48% số ảnh cần xem xét. Khả năng ảnh được đánh dấu thực sự chứa tài liệu xâm hại tình dục trẻ em cao gấp khoảng hai lần so với trước.
Trong một thử nghiệm vận hành hình ảnh riêng của đối tác fal, 72% trường hợp được đánh dấu với độ tin cậy cao và con người kiểm tra được xác định là tài liệu xâm hại tình dục trẻ em chưa từng được phát hiện. Thử nghiệm này được tiến hành riêng với đánh giá của OpenAI trên ảnh người dùng tải lên.
Các đối tác khác cũng thực hiện thử nghiệm riêng. Trong đánh giá của invideo AI, cứ 4 trường hợp được đánh dấu thì có 1 trường hợp dẫn đến đình chỉ sử dụng. SafetyKit cho biết công cụ của họ phát hiện 90% trường hợp tranh vẽ hoặc hoạt hình mô tả trẻ em theo hướng tình dục.
Khi ChatGPT phát hiện yêu cầu tìm kiếm tài liệu liên quan, dịch vụ sẽ hiện cảnh báo và dừng cuộc trò chuyện. OpenAI cho biết cùng với cảnh báo, hệ thống sẽ ẩn cuộc trò chuyện khỏi lịch sử của người dùng đã đăng nhập và tạm ngưng quyền truy cập ChatGPT trong 24 giờ.
Vi phạm lặp lại có thể dẫn đến thời hạn hạn chế dài hơn hoặc đóng tài khoản, đồng thời có thể bị báo cáo với cơ quan chức năng. Cảnh báo cũng cung cấp thông tin về các dịch vụ hỗ trợ chuyên môn để giúp người dùng chấm dứt hành vi gây hại.
Trang trợ giúp sản phẩm của OpenAI cho biết các biện pháp sẽ được triển khai theo từng giai đoạn trên toàn cầu. Phạm vi hiện gồm cuộc trò chuyện và chế độ làm việc trên tài khoản cá nhân dùng web hoặc thiết bị di động; người chưa đăng nhập cũng có thể thấy cảnh báo.
Các không gian dành cho doanh nghiệp, doanh nghiệp lớn, giáo dục và y tế chưa thuộc phạm vi áp dụng. Chế độ giọng nói, ứng dụng máy tính và Codex hiện cũng chưa được áp dụng.
Hướng dẫn dành cho nhà phát triển đề cập các quy trình phòng ngừa, phát hiện và báo cáo tài liệu gây hại. OpenAI khuyến nghị kết hợp đối chiếu mã băm của hình ảnh đã biết, bộ phân loại để tìm tài liệu mới và việc kiểm tra của nhân sự đã được đào tạo.
OpenAI cũng hỗ trợ cơ quan điều tra bằng công cụ và chương trình đào tạo để xem xét hồ sơ trò chuyện dài cùng tài liệu được cung cấp theo quy trình pháp lý. Công cụ đầu tiên được thiết kế để tìm tài liệu có khả năng liên quan, sắp xếp theo trình tự thời gian và liên kết kết quả với tài liệu gốc.
OpenAI cho biết các biện pháp này tiếp nối kế hoạch an toàn trẻ em được công bố hồi tháng 4. Kế hoạch đề cập việc hoàn thiện luật để ứng phó với tài liệu xâm hại tình dục trẻ em do AI tạo ra, tăng cường nghĩa vụ báo cáo và hợp tác với cơ quan điều tra của doanh nghiệp, cùng các biện pháp an toàn ngay từ khâu thiết kế AI.
Trước đó, OpenAI cho biết đã cam kết 2 triệu USD (khoảng 2,67 tỷ won) để phát triển công cụ đo lường rủi ro và cơ hội của AI đối với trẻ em. Lần này, công ty bổ sung công cụ phát hiện, cảnh báo trong dịch vụ và hỗ trợ nhà phát triển cùng cơ quan điều tra.
NCMEC đánh giá bộ phân loại mới có thể hỗ trợ phát hiện, báo cáo tài liệu xâm hại tình dục trẻ em chưa từng được xác định và cung cấp thông tin cần thiết để tìm kiếm, bảo vệ nạn nhân. Trung tâm cũng cho rằng việc giúp nhiều tổ chức tiếp cận công cụ có thể hỗ trợ công tác bảo vệ trẻ em.
Tài liệu mô hình của OpenAI lưu ý bộ phân loại có thể đánh dấu nhầm hình ảnh bình thường hoặc bỏ sót hình ảnh có nội dung gây hại. Hiệu suất cũng có thể khác nhau tùy thành phần hình ảnh và môi trường sử dụng của từng dịch vụ, vì vậy nhân sự đã được đào tạo cần kiểm tra trước khi báo cáo.
Comment 0