AI tận thế: Cảnh báo rủi ro và nhấn mạnh tiềm năng công nghệ

AI tận thế có thể vừa cảnh báo về rủi ro, vừa làm nổi bật tiềm năng to lớn của công nghệ, theo một phân tích.

Michael Serazio, giáo sư Khoa Truyền thông tại Đại học Boston College, lập luận trong bài viết đăng trên Fortune ngày 9 rằng câu chuyện về AI tận thế có thể trở thành lập luận tiếp thị, nhấn mạnh sức mạnh công nghệ với nhà đầu tư và người dùng. Theo ông, cần xem xét đồng thời khả năng những cảnh báo xuất phát từ mối lo ngại chân thành và khả năng chúng gắn với lợi ích thương mại của ngành.

Serazio dẫn trường hợp Jacob Coxon, cựu nghiên cứu viên của Anthropic, người đã rời công ty tháng trước và mô tả cuộc đua phát triển AI là “đánh cược bằng mạng sống của chúng ta”. Coxon viết trên X rằng các nhà phát triển AI thực sự tin công nghệ này có thể giết chết tất cả mọi người trong vòng 10 năm, đồng thời kêu gọi “đừng đánh giá thấp sức mạnh của công nghệ này”. Đây là quan điểm cá nhân của Coxon.

Serazio cho rằng câu chuyện AI mạnh đến mức đe dọa nền văn minh có thể gắn với kỳ vọng rằng AI sẽ hỗ trợ từ soạn email công việc đến các nhu cầu thường ngày. Theo phân tích của ông, để trang trải chi phí khổng lồ, các công ty AI cần người dùng chấp nhận công nghệ trong cả công việc lẫn đời sống cá nhân; nghịch lý là những cảnh báo về ngày tận thế cũng có thể nhấn mạnh sức mạnh áp đảo của AI.

Cảnh báo rủi ro và lời kêu gọi ngừng phát triển cũng từng được nêu trong một thư ngỏ. Thư do Viện Future of Life công bố tháng 3 năm 2023 kêu gọi các phòng thí nghiệm AI tạm dừng ít nhất 6 tháng việc huấn luyện những hệ thống mạnh hơn GPT-4. Thư cho rằng AI tiên tiến có thể gây ra rủi ro nghiêm trọng cho xã hội và nhân loại.

Serazio cảnh báo sự chú ý dồn vào các kịch bản tận thế có thể khiến những vấn đề diễn ra dần dần bị lu mờ, chẳng hạn mức tiêu thụ điện và nước, hay việc giao phó tư duy phản biện cho AI trong môi trường giáo dục. Bài viết không đưa ra nghiên cứu kiểm chứng định lượng về mức sử dụng tài nguyên hoặc hiệu quả giáo dục.