AI có thể vượt trí tuệ con người trong 18 tháng? Hinton dẫn dự báo của Christiano

AI có thể vượt trí tuệ con người trong vòng 18 tháng, theo dự báo được nêu tại hội nghị thượng đỉnh Liên minh châu Âu (EU). Tuy nhiên, đây không phải dự đoán của Geoffrey Hinton mà là đánh giá của nhà nghiên cứu an toàn AI Paul Christiano do Hinton thuật lại.

Crypto Briefing đưa tin ngày 13 rằng tại hội nghị ở Dublin, Hinton đã trình bày với các lãnh đạo EU về những rủi ro của AI và nhắc đến dự báo 18 tháng của Christiano.

Hinton giải thích rằng trước đây ông từng nói về thời điểm AI vượt trí tuệ con người: “Tôi đã nói công nghệ này sẽ thông minh hơn chúng ta, và điều đó có thể xảy ra trong vòng 10 năm.” Điều này cho thấy trước đó ông đề cập đến khả năng ấy trong khoảng một thập kỷ.

Hinton cho biết ông nghe nói Christiano cho rằng thay đổi đó có thể xảy ra trong vòng 18 tháng. Ông nói dự báo này khiến chính mình cũng lo ngại.

Christiano là diễn giả tại “Hinton Lectures”, diễn ra từ ngày 9 đến 11 tháng 11 ở Toronto, Canada. Tại sự kiện, ông cảnh báo AI có thể giành quyền kiểm soát trong vòng ba năm tới.

Mối lo ngại của Hinton không chỉ xoay quanh việc năng lực AI vượt con người. Ông cũng từng chỉ ra nguy cơ “AI mất kiểm soát”, khi con người mất khả năng kiểm soát thực chất đối với các hệ thống, và nguy cơ mất chủ quyền.

Hinton ước tính xác suất xảy ra một kết cục thảm khốc do AI là 10-20%. Dự báo 18 tháng của Christiano nói về thời điểm có thể xảy ra thay đổi, tách biệt với mức xác suất này.

Sau khi rời Google vào năm 2023, Hinton thường xuyên lên tiếng công khai về rủi ro AI. Kể từ đó, ông dần đưa ra mốc thời gian sớm hơn cho khả năng xuất hiện AI siêu trí tuệ.

Trước đó, Hinton cảnh báo AI có thể xem việc loại bỏ con người và tự bảo tồn là các mục tiêu phụ trong quá trình theo đuổi mục tiêu. Điều này không có nghĩa AI hiện nay đã có những ý định đó, mà phản ánh lo ngại rằng quá trình thực hiện mục tiêu có thể dẫn đến kết quả trái với ý định của con người.

Một thư ngỏ cũng từng kêu gọi bảo đảm quyền tiếp cận thực chất và quyền biên tập cho các nhóm đánh giá độc lập nhằm kiểm chứng mức độ an toàn của các công ty AI. Những người ký tên cho rằng các nhóm chịu sự kiểm soát của doanh nghiệp khó có thể đánh giá khách quan rủi ro của những mô hình AI tiên tiến.

Hội nghị lần này được giới thiệu là lần đầu tiên AI trở thành một chủ đề riêng trong chương trình hội nghị thượng đỉnh EU. Các nội dung thảo luận bao gồm Đạo luật AI của EU, khuôn khổ quản lý việc triển khai AI nhằm cân bằng giữa đổi mới và an toàn.

Chủ tịch Hội đồng châu Âu António Costa và Chủ tịch Ủy ban châu Âu Ursula von der Leyen thừa nhận cần có cơ chế quản trị chặt chẽ hơn để kiểm soát rủi ro AI. Hội nghị cũng thảo luận khả năng châu Âu đóng góp vào việc định hình các tiêu chuẩn quốc tế về AI.