Cảnh báo AI hủy diệt loài người gây tranh cãi, Gerstner cáo buộc phóng đại để thúc đẩy quản lý

Cảnh báo cho rằng trí tuệ nhân tạo (AI) có thể dẫn đến sự hủy diệt của loài người đang khiến giới đầu tư và các nhà nghiên cứu an toàn AI đối đầu gay gắt. Một bên chỉ trích cảnh báo này chỉ là sự phóng đại nhằm kéo cơ quan quản lý vào cuộc, trong khi bên còn lại cho rằng cuộc đua phát triển AI đang đẩy vấn đề an toàn của con người xuống hàng thứ yếu.

Brad Gerstner, CEO của Altimeter Capital, phát biểu trên chương trình “Halftime Report” của CNBC ngày 11 (giờ địa phương) rằng những nhà nghiên cứu đưa ra “thuyết AI hủy diệt loài người” có thể mang động cơ chính trị. Trước đó, ông cũng đăng bài trên mạng xã hội với nội dung đại ý: “Một cựu nhân viên cấp thấp chỉ làm việc 6 tuần tại Anthropic đưa ra những tuyên bố phóng đại vô lý, vậy điều đó có thể trở thành căn cứ để cơ quan quản lý can thiệp hay không?”.

Gerstner lập luận rằng các cảnh báo về rủi ro AI không hẳn chỉ xuất phát từ lo ngại khoa học, mà còn có thể nhằm mục đích thúc đẩy siết chặt quản lý. Bình luận: đây chỉ là nhận định cá nhân của Gerstner, không phải tài liệu chứng minh động cơ của toàn bộ giới nghiên cứu an toàn AI.

Nguyên nhân trực tiếp châm ngòi cho tranh cãi là việc Jacob Coxon, cựu nhà nghiên cứu tiền huấn luyện (pretraining) của cả Anthropic lẫn OpenAI, từ chức và đưa ra cảnh báo công khai. Việc Coxon từ chức và chỉ trích cuộc đua phát triển “siêu trí tuệ tự cải thiện” đã được đưa tin trước đó.

Trong bài viết công khai ngày 9, Coxon cho rằng Anthropic và OpenAI đang chạy đua hướng tới “siêu trí tuệ tự cải thiện” (self-improving superintelligence), đặt cược cả mạng sống con người vào cuộc đua này. Ông viết rằng chính các nhà phát triển AI cũng nghiêm túc tin rằng AI có thể khiến loài người tuyệt chủng trong vòng 10 năm tới.

Evan Hubinger, trưởng bộ phận khoa học căn chỉnh (Alignment Science) của Anthropic, đồng tình với vấn đề mà Coxon nêu ra. Ông nói: “Khả năng AI khiến loài người tuyệt chủng trong 10 năm tới là trên 10%”.

Bình luận: con số “trên 10%” mà Hubinger đưa ra là nhận định cá nhân của ông, không thể xem là dự báo chính thức của Anthropic hay một xác suất đã được giới khoa học xác nhận.

“Căn chỉnh” (alignment) là lĩnh vực nghiên cứu nhằm đưa mục tiêu và hành vi của hệ thống AI phù hợp với ý định và giá trị của con người. “Siêu trí tuệ tự cải thiện” gắn với giả định rằng AI có thể liên tục tự nâng cấp năng lực hoặc hệ thống của chính mình, từ đó vượt khỏi tầm kiểm soát của con người.

Ngày 9, Anthropic công bố một nghiên cứu phân tích các trường hợp hệ thống AI bị lạm dụng cho mục đích tấn công an ninh mạng. Anthropic cho biết đã rà soát khoảng 481 triệu bản ghi và phân tích 4 trường hợp đánh giá an ninh mạng cụ thể.

Nghiên cứu này tập trung phân tích các trường hợp hệ thống AI có khả năng bị lạm dụng cho tấn công an ninh mạng. Dù đề cập đến nguy cơ AI bị lạm dụng, nghiên cứu không đưa ra phản bác chính thức nào của Anthropic đối với cáo buộc mà Coxon nêu khi từ chức.

Cuộc tranh cãi lần này cho thấy một vấn đề cần được nhìn nhận riêng rẽ: nội dung cảnh báo về rủi ro AI và lợi ích cá nhân của người phát ngôn là hai chuyện khác nhau. Vì các công ty AI và giới đầu tư cũng tham gia vào các cuộc thảo luận về quản lý, nên có ý kiến cho rằng cần xem xét đồng thời cơ sở khoa học của cảnh báo lẫn động cơ kinh tế của người đưa ra cảnh báo đó.

Ngược lại, cũng có ý kiến phản bác rằng không thể chỉ vì khả năng tồn tại lợi ích cá nhân mà khẳng định cảnh báo là sai sự thật. Điều này có nghĩa là để đánh giá độ tin cậy của một cảnh báo, cần xem xét phương pháp nghiên cứu và căn cứ đưa ra, thay vì chỉ dựa vào nơi công tác hay quan hệ đầu tư của người phát ngôn.

Lời kêu gọi đưa nguy cơ AI hủy diệt loài người thành nghị trình quốc tế không phải lần đầu xuất hiện. Trung tâm An toàn AI (Center for AI Safety) cho biết vào năm 2023, nhiều nhà nghiên cứu và nhân vật trong ngành, bao gồm cả CEO của OpenAI và Anthropic, đã cùng ký một tuyên bố chung kêu gọi xem việc giảm thiểu nguy cơ hủy diệt do AI gây ra là ưu tiên toàn cầu, ngang hàng với đại dịch và chiến tranh hạt nhân.

Tuyên bố chung này là một ví dụ cho việc gắn kết rủi ro dài hạn của AI với các vấn đề y tế công cộng và an ninh. Tuy nhiên, chỉ riêng việc ký tuyên bố hay đưa ra cảnh báo rủi ro không thể xác định một xác suất cụ thể, cũng như không thể chốt được phương án quản lý nào.

Tóm lại, điều có thể xác nhận hiện nay là giới đầu tư và giới nghiên cứu đang đưa ra những nhận định khác nhau về tốc độ phát triển AI cũng như sự cần thiết của quản lý. Xác suất khách quan để AI khiến loài người tuyệt chủng, hay việc các cảnh báo này có phải là hành động mang tính chính trị nhằm thúc đẩy thảo luận quản lý hay không, đến nay vẫn chưa có kết luận rõ ràng.