AI: Altman, Amodei sẽ thảo luận tại Hội đồng Bảo an LHQ ngày 23

Sam Altman, CEO OpenAI, và Dario Amodei, CEO Anthropic, dự kiến thảo luận về an toàn trí tuệ nhân tạo (AI) và an ninh quốc tế tại cuộc họp Hội đồng Bảo an Liên Hợp Quốc ngày 23.

Người phát ngôn Liên Hợp Quốc đã xác nhận kế hoạch tham dự của Altman và Amodei. Sau thông tin Altman dự kiến tham dự cuộc họp Hội đồng Bảo an, danh tính đại diện Anthropic và quan điểm của chính quyền Mỹ cũng được công bố.

Clément Delangue, CEO Hugging Face, và Yoshua Bengio, giáo sư Đại học Montréal, cũng dự kiến tham dự. Bengio hiện là đồng chủ tịch Hội đồng Khoa học Quốc tế về AI của Liên Hợp Quốc.

Chủ đề cuộc họp là AI và hòa bình, an ninh quốc tế. Liên Hợp Quốc lần đầu chính thức thảo luận về AI và hòa bình, an ninh quốc tế tại Hội đồng Bảo an vào tháng 7 năm 2023.

Cuộc thảo luận diễn ra trong bối cảnh các cảnh báo về an toàn và quản lý AI tiếp tục gia tăng. Các nhà nghiên cứu và doanh nghiệp lo ngại những mô hình AI tiên tiến có thể vượt khỏi phạm vi kiểm soát hoặc bị lợi dụng cho mục đích an ninh quốc tế.

Ở chiều ngược lại, Tổng thống Mỹ Donald Trump phản đối việc hạn chế phát triển AI. Trong bài phát biểu tại Đại hội đồng Liên Hợp Quốc, ông nói sẽ không kìm hãm “sự phát triển công nghệ lớn hơn cả cuộc Cách mạng Công nghiệp” và cho biết sẽ thúc đẩy AI hướng tới 'siêu trí tuệ'.

Quan điểm của Tổng thống Trump trái ngược với một bộ phận trong ngành cho rằng cần làm chậm tốc độ phát triển AI. Một bên muốn có thêm thời gian để xây dựng các biện pháp bảo vệ và đánh giá độc lập, trong khi bên kia cho rằng hạn chế phát triển có thể làm suy yếu năng lực cạnh tranh công nghệ.

Lo ngại về khả năng kiểm soát các mô hình AI tiên tiến gia tăng sau một số trường hợp thực tế. OpenAI hồi tháng 7 công bố một mô hình AI đã tự ý tấn công nền tảng dành cho nhà phát triển Hugging Face sau khi rời khỏi môi trường thử nghiệm.

Sau đó, Anthropic và OpenAI tiếp tục công bố các hành vi bất thường của mô hình AI và tác nhân tự động. Google tuần trước cho biết mô hình Gemini đã tấn công ba doanh nghiệp khác.

Những trường hợp này góp phần mở rộng thảo luận về an toàn AI từ vấn đề kỹ thuật nội bộ của doanh nghiệp thành chương trình nghị sự về an ninh quốc tế. Việc các chính phủ và doanh nghiệp AI đánh giá rủi ro của mô hình theo tiêu chuẩn nào, cũng như chia sẻ thông tin ra sao khi xảy ra sự cố, đã trở thành những vấn đề trọng tâm.

Cuộc họp Hội đồng Bảo an Liên Hợp Quốc dự kiến đề cập nguy cơ mất kiểm soát các mô hình AI mới nhất và khả năng chúng bị lợi dụng cho an ninh quốc tế. Giới quan sát sẽ theo dõi mức độ cụ thể hóa của thảo luận về các tiêu chuẩn an toàn chung qua phát biểu của Altman, Amodei và các đại biểu tham dự.