OpenAI cam kết 2 triệu USD phát triển công cụ đánh giá AI cho trẻ em

OpenAI cam kết 2 triệu USD (khoảng 2,67 tỷ won) cho việc phát triển công cụ chung nhằm đánh giá rủi ro và cơ hội của AI đối với trẻ em. Khoản hỗ trợ dành cho mạng lưới nghiên cứu thuộc Liên minh Quyền trẻ em và Bảo vệ trẻ em trong Kỷ nguyên AI.

OpenAI cho biết trong thông báo ngày 12 rằng công ty đã ký “Hiến chương tham gia phát triển AI an toàn hơn cho trẻ em” tại Diễn đàn Hòa bình Paris (Paris Peace Forum) và sẽ hỗ trợ mạng lưới nghiên cứu. Thông báo nêu khoản cam kết nhưng không cho biết tiền đã được giải ngân hay chưa.

Diễn đàn Hòa bình Paris cho biết ngày 10 rằng tổng cam kết của các nhà phát triển AI và tổ chức an toàn cho hoạt động nghiên cứu, phát triển công cụ là 8 triệu euro. Đây là tổng của nhiều bên tham gia, có phạm vi khác với khoản cam kết 2 triệu USD của OpenAI.

Hiến chương do Văn phòng Tổng thống Pháp công bố liệt kê OpenAI, Anthropic, Black Forest Labs và Microsoft(MSFT) là các công ty ủng hộ. Danh sách này riêng biệt với danh sách các bên cam kết tài trợ nghiên cứu.

Hiến chương đề ra các nguyên tắc chung gồm △an toàn, quyền riêng tư và lợi ích tốt nhất của trẻ em △thiết kế phù hợp với độ tuổi và sự tham gia của gia đình, trẻ em △đạo đức, công bằng và hòa nhập △giảm thiểu dữ liệu cá nhân và xác minh độ tuổi △ngăn chặn tài liệu bóc lột tình dục trẻ em và hình ảnh thân mật không có sự đồng thuận △giáo dục về AI. Mục tiêu là tích hợp các biện pháp bảo vệ vào toàn bộ quá trình thiết kế và vận hành hệ thống AI mà trẻ em có thể sử dụng.

Những công ty tham gia hiến chương và phát triển hoặc phân phối hệ thống AI mà người chưa thành niên có thể sử dụng phải đánh giá, thử nghiệm rủi ro trước khi triển khai khi cần thiết và định kỳ sau đó. Họ cũng cần xây dựng biện pháp giảm thiểu rủi ro cùng quy trình phát hiện, ứng phó với sự cố nghiêm trọng liên quan đến trẻ em.

Mạng lưới nghiên cứu sẽ hoạt động dưới sự hướng dẫn của một hội đồng khoa học độc lập. Các nhóm nghiên cứu giữ quyền kiểm soát kết luận và phải công bố cả kết quả tiêu cực, chưa cho thấy hiệu quả rõ rệt hoặc còn chưa chắc chắn.

Các công ty có thể kiểm toán phương pháp đánh giá được áp dụng cho hệ thống của mình và nêu quan ngại về phương pháp. Tuy nhiên, họ không có quyền kiểm soát tiêu chuẩn an toàn, kết luận hoặc trì hoãn việc công bố kết quả.

Kinh phí từ doanh nghiệp sẽ được dành cho nghiên cứu đo lường chung. Hiến chương quy định các nghiên cứu quan sát, nghiên cứu tác động đến sự phát triển, thù lao cho hội đồng khoa học và nghiên cứu đánh giá, tiêu chuẩn sẽ nhận hỗ trợ từ nguồn vốn công và quỹ từ thiện độc lập.

Hiến chương cho biết hiện còn thiếu nghiên cứu dài hạn về tương tác lặp lại giữa trẻ em, thanh thiếu niên và AI tạo sinh. Cách tiếp cận được nêu là xây dựng biện pháp bảo vệ dựa trên khoa học phát triển hiện có và các nghiên cứu ban đầu, sau đó cập nhật khi có thêm bằng chứng. Nghiên cứu cũng sẽ xem xét cơ hội AI mang lại cho trẻ em, chẳng hạn trong học tập và sáng tạo, bên cạnh các rủi ro.

Diễn đàn Hòa bình Paris tổ chức hội nghị thượng đỉnh về trẻ em trong hai ngày 10-11 tháng 11. Tổng thống Pháp Emmanuel Macron nói: “Không nên cung cấp bất kỳ AI nào cho trẻ em nếu chưa được thử nghiệm, đánh giá và phê duyệt theo kết quả đó”.

OpenAI cũng cho biết cần vừa có khung pháp lý về an toàn trẻ em đủ mạnh và có thể thực thi, vừa bảo đảm quyền tiếp cận AI cho mục đích học tập, sáng tạo. Công ty nêu các biện pháp bảo vệ mặc định phù hợp với độ tuổi, công cụ dành cho phụ huynh, đánh giá rủi ro định kỳ và trách nhiệm giải trình.

Hiến chương yêu cầu các bên tham gia công khai mục đích hỗ trợ, nguồn lực và lịch trình thực hiện. Thông báo của OpenAI chưa nêu cụ thể thành phần mạng lưới nghiên cứu hay lịch đóng góp của từng bên.