Cựu nhân sự OpenAI cảnh báo rủi ro AI tự cải tiến, kêu gọi siết tốc độ phát triển

Giới công nghệ và tài chính liên tiếp lên tiếng cảnh báo về khả năng trí tuệ nhân tạo (AI) tự cải tiến bản thân, đồng thời kêu gọi các công ty phát triển AI hàng đầu giảm tốc độ chạy đua công nghệ và tăng cường hợp tác quốc tế để kiểm soát rủi ro.

Jacob Coxon, người từng phụ trách nghiên cứu tiền huấn luyện (pretraining) tại OpenAI và Anthropic, mới đây tuyên bố rời Anthropic và chỉ trích các phòng thí nghiệm AI lớn đang đặt cạnh tranh công nghệ lên trên yếu tố an toàn. Trên mạng xã hội, ông viết rằng “những công ty này đang lao thẳng về phía siêu trí tuệ có khả năng tự cải tiến, đặt cược cả mạng sống của chúng ta”. Phát biểu của Coxon phản ánh lo ngại từ chính người trong ngành về tốc độ phát triển AI hiện nay.

Theo Coxon, một AI siêu việt có khả năng tự cải tiến có thể trong thời gian ngắn tấn công nhiều hệ thống số khác nhau, làm thay đổi cấu trúc ngành công nghiệp và tiếp cận các nguồn lực trong thế giới thực. Ông cho biết trong nội bộ ngành AI, có những nhà nghiên cứu tin rằng công nghệ này có thể đe dọa sự tồn vong của loài người trong vòng 10 năm tới, nhưng các phát ngôn chính thức của doanh nghiệp thường được làm dịu đi vì mục đích truyền thông.

Ông cũng cho rằng một bộ phận nhân sự tại OpenAI chưa nhận thức đầy đủ về rủi ro mang tính văn minh mà siêu trí tuệ có thể gây ra. Về Anthropic, Coxon nhận định công ty này có nhận thức về rủi ro an toàn AI cao hơn, nhưng vẫn chịu áp lực cạnh tranh kiểu “nếu chúng ta không làm trước, người khác sẽ làm”.

Coxon kêu gọi các phòng thí nghiệm AI lớn của Mỹ ký kết thỏa thuận giới hạn tốc độ phát triển công nghệ. Ông cho rằng dù chi phí có lớn đến đâu, thế giới cũng cần cân nhắc một lệnh tạm dừng ở quy mô toàn cầu, và không nên tiếp tục dùng học tăng cường (reinforcement learning) để nâng cấp các hệ thống siêu trí tuệ khi con người chưa hiểu rõ cách chúng vận hành bên trong.

Nhà giao dịch Paul Tudor Jones mô tả AI như một “siêu cường thứ ba”, có thể vượt qua cả các cường quốc địa chính trị hiện tại. Ông nhấn mạnh tốc độ phát triển nhanh chóng của AI không còn là chuyện khoa học viễn tưởng, mà là rủi ro thực tế mà chính phủ các nước đang phải đối mặt.

Jones cho rằng Mỹ, Trung Quốc và các nước lớn khác cần cùng nhau xây dựng lộ trình phối hợp cho việc phát triển và phổ biến AI. Theo ông, thế giới cần những chuẩn mực quốc tế để đưa công nghệ này đi theo hướng an toàn, có thể kiểm soát và dễ hiểu.

Ông lấy ví dụ về việc một mô hình AI có thể tự cải tiến hàng nghìn lần liên tiếp. Trong quá trình đó, chỉ cần một lần mục tiêu của mô hình lệch khỏi mục tiêu con người đặt ra, hậu quả có thể gây hại cho con người hoặc dẫn tới thảm họa, và thiệt hại sẽ càng lớn hơn nếu mô hình đó được triển khai đồng thời cho hàng chục nghìn người dùng.

Theo Jones, khác với các quốc gia truyền thống, AI có thể không có giới hạn phát triển rõ ràng hay quy mô có thể dự đoán trước. Vì mức độ ảnh hưởng cuối cùng của AI có khả năng vượt qua bất kỳ quốc gia nào hiện nay, ông kêu gọi lãnh đạo các nước phải đưa vấn đề an toàn AI thành ưu tiên chính sách hàng đầu trong nhiệm kỳ của mình.

Những cảnh báo lần này cho thấy vấn đề an toàn AI đã vượt ra khỏi phạm vi nghiên cứu nội bộ của các công ty công nghệ, trở thành chủ đề liên quan đến quản trị toàn cầu, an ninh quốc gia và rủi ro xã hội dài hạn. Đáng chú ý, cả giới nghiên cứu lẫn giới tài chính gần như cùng lúc lên tiếng yêu cầu điều chỉnh tốc độ phát triển và phối hợp ứng phó chung.

Tại Hàn Quốc, chính phủ cũng đang xúc tiến kế hoạch mở rộng đầu tư gộp chung cho trung tâm dữ liệu AI, bán dẫn và AI vật lý. Khi các chính sách mở rộng hạ tầng và ứng dụng AI tiếp tục được triển khai, việc bàn thảo song song giữa tốc độ phát triển và kiểm chứng an toàn cũng có thể trở thành bài toán đặt ra cho chính sách và ngành công nghiệp trong nước.

Tuy nhiên, phát biểu của Coxon và Jones chỉ là đề xuất kêu gọi giới hạn phát triển và tăng cường phối hợp an toàn ở cấp độ quốc tế. Những biện pháp mà hai người này nhắc đến chưa trở thành quy định quốc tế chính thức hay lệnh dừng phát triển AI nào được xác nhận.