Jensen Huang đánh giá 0% khả năng AI khiến nhân loại tuyệt chủng trước năm 2030

Jensen Huang (Jensen Huang), CEO Nvidia($NVDA), đánh giá khả năng trí tuệ nhân tạo (AI) khiến nhân loại tuyệt chủng trước năm 2030 là '0%'. Ông cho rằng không cần làm chậm tốc độ phát triển AI.

Trong cuộc phỏng vấn với CBS News, Jensen Huang nói: “Khả năng AI phá hủy thế giới trước năm 2030 là 0%”. Ông nói thêm: “Bất kể người khác làm gì, chúng ta phải tiến nhanh nhất có thể”, đồng thời nhấn mạnh không nên phát hành các sản phẩm thiếu an toàn. CBS News đưa tin về phát biểu này ngày 18 tháng 9.

Phát biểu của Jensen Huang được đưa ra trong bối cảnh tranh luận về tốc độ phát triển AI và việc bảo đảm an toàn vẫn tiếp diễn. Con số '0%' là đánh giá cá nhân về rủi ro dài hạn của AI, không phải một thống kê chính thức.

Tại hội nghị Goldman Sachs ngày 10 tháng 9, Jensen Huang được cho là đã gọi những lo ngại AI có thể gây ra ngày tận thế của nhân loại là 'hoàn toàn vô nghĩa'. Ông thể hiện quan điểm coi trọng hoạt động thử nghiệm nghiêm ngặt trong doanh nghiệp và đánh giá độc lập hơn là các quy định trên diện rộng của chính phủ.

Nvidia không trực tiếp phát triển các mô hình AI nhưng cung cấp GPU được sử dụng để huấn luyện và suy luận các hệ thống AI chủ chốt. Vì vậy, phát biểu của Jensen Huang vừa được xem là quan điểm cá nhân về an toàn AI, vừa phản ánh góc nhìn của lãnh đạo doanh nghiệp đang thúc đẩy mở rộng hạ tầng AI.

Những cảnh báo về rủi ro dài hạn của AI đã xuất hiện từ trước. Tuyên bố do tổ chức phi lợi nhuận Center for AI Safety công bố năm 2023 có sự tham gia của hơn 350 nhà nghiên cứu và lãnh đạo các công ty công nghệ, đồng thời cho rằng giảm thiểu nguy cơ tuyệt chủng do AI cần được xem là ưu tiên toàn cầu ngang với đại dịch và chiến tranh hạt nhân.

Tuyên bố có chữ ký của Dario Amodei (Dario Amodei), CEO Anthropic, và Sam Altman (Sam Altman), CEO OpenAI. AP đưa tin hai người đã tham gia tuyên bố này.

Tranh luận gần đây nóng trở lại sau khi Jacob Coxon (Jacob Coxon), một nhà nghiên cứu tại Anthropic, từ chức. Coxon cho rằng Anthropic và OpenAI đang đặt cạnh tranh lên trên an toàn, đồng thời ước tính khả năng AI khiến nhân loại tuyệt chủng trong 10 năm tới là 10%.

Con số 10% do Coxon đưa ra cũng là quan điểm cá nhân. Đánh giá 0% của Jensen Huang và ước tính 10% của Coxon có chủ thể phát biểu và cơ sở đánh giá khác nhau, nên khó có thể so sánh như hai số liệu thống kê cùng loại.

AP cho biết Anthropic và OpenAI chưa lập tức phản hồi yêu cầu bình luận về các cáo buộc của Coxon. Do đó, phát biểu của Coxon cần được phân biệt với lập trường chính thức của hai công ty.

Anthropic cho biết công ty tiến hành đánh giá định kỳ, lập mô hình mối đe dọa, kiểm thử red team và đánh giá bên ngoài để xác định rủi ro của AI hiệu năng cao. Kiểm thử red team là quy trình trong đó các đánh giá viên bên ngoài hoặc nội bộ chủ động kiểm tra điểm yếu và khả năng bị lạm dụng của hệ thống.

Anthropic công bố chính sách mở rộng có trách nhiệm vào năm 2023 và cập nhật chính sách này vào tháng 2 năm 2026. Công ty cho biết đang vận hành cơ chế tăng cường các biện pháp bảo mật và triển khai tùy theo mức độ rủi ro.

Trước đó, các nhà nghiên cứu cũng cảnh báo cần làm chậm tốc độ cạnh tranh phát triển AI để bảo đảm an toàn. Tranh luận này tiếp tục xoay quanh việc năng lực AI và nghiên cứu an toàn có đang được phát triển với tốc độ tương đương hay không.

Hiện chưa có xác suất được đồng thuận về nguy cơ AI ảnh hưởng đến sự tồn tại của nhân loại. Đánh giá 0% của Jensen Huang và ước tính 10% của Coxon phản ánh hai quan điểm khác nhau về rủi ro, trong khi hiệu quả của hoạt động kiểm chứng nội bộ và đánh giá độc lập vẫn là vấn đề trọng tâm.