CEO Anthropic đề xuất giảm tốc AI, hợp tác an toàn Mỹ - Trung

Dario Amodei (Dario Amodei), Tổng giám đốc điều hành (CEO) của Anthropic, đã đề xuất làm chậm tốc độ phát triển AI biên giới (frontier AI) và thúc đẩy một thỏa thuận giữa Mỹ và Trung Quốc nhằm hạn chế việc sử dụng AI rủi ro cao.

Amodei cho biết trong bài luận “We Must Pace the Frontier” đăng ngày 12 tháng 9 rằng “cần điều chỉnh tốc độ phát triển AI biên giới”. Ông nhấn mạnh đây không phải là dừng phát triển hoàn toàn, mà là để có đủ thời gian kiểm chứng độ an toàn.

Ông chỉ ra rằng năng lực của các mô hình AI có thể phát triển nhanh hơn tốc độ nghiên cứu về an toàn và sự đồng nhất (alignment). Đặc biệt, ông đưa ra kịch bản rủi ro rằng một nhóm tác nhân AI (AI agent) có thể kiểm soát toàn bộ internet trong vòng 6-12 tháng, nhưng đây chỉ là giả định do Amodei đưa ra, không phải sự việc đã xảy ra.

Đề xuất của Amodei được chia thành ba giai đoạn: △ để nhân sự của các tổ chức đánh giá độc lập được tiếp cận thường xuyên với các công ty AI nhằm kiểm tra quy trình an toàn và sự cố; △ các công ty AI ở các quốc gia dân chủ cùng xây dựng tiêu chuẩn an toàn chung và giới hạn tốc độ phát triển; △ các quốc gia dân chủ, trong đó có Mỹ, thúc đẩy một thỏa thuận an toàn có giới hạn với các quốc gia độc tài, bao gồm cả Trung Quốc.

Ở giai đoạn đầu, đội đánh giá bên ngoài không chỉ kiểm tra mô hình AI mà còn cả quá trình huấn luyện và quy trình vận hành. Đội này đảm nhận vai trò liên tục theo dõi việc có xảy ra sự cố hay không và việc tuân thủ tiêu chuẩn an toàn.

Giai đoạn thứ hai xuất phát từ nhận định rằng chỉ dựa vào biện pháp tự nguyện của từng công ty thì khó kiểm soát được cuộc đua phát triển AI. Nếu có tiêu chuẩn chung, có thể so sánh quy trình an toàn và việc kiểm chứng trước khi ra mắt mô hình rủi ro cao giữa các công ty.

Cạnh tranh với Trung Quốc được nêu ra như biến số cốt lõi của đề xuất này. Amodei cho rằng chất bán dẫn tiên tiến là yếu tố quyết định năng lực AI của Trung Quốc, đồng thời cho biết Mỹ cần ngăn chặn việc xuất khẩu chip AI hiệu năng cao và thiết bị sản xuất bán dẫn sang Trung Quốc, cũng như kiểm soát việc mua bán vòng vo và truy cập từ xa vào trung tâm dữ liệu ở nước ngoài.

Amodei cho biết trong bài luận rằng những biện pháp này có thể duy trì lợi thế AI của Mỹ, qua đó mở rộng dư địa đàm phán trong tương lai. Ông cũng dự báo giai đoạn 3-5 năm tới sẽ là thời kỳ tầm quan trọng địa chính trị của AI ngày càng gia tăng.

Về các lĩnh vực hợp tác giữa các quốc gia, ông nêu ra việc cấm phát triển vũ khí sinh học, thử nghiệm mô hình rủi ro cao trước khi ra mắt, và giới hạn tốc độ tự cải thiện (self-improvement) của AI. Ông ví việc giới hạn tốc độ tự cải thiện này với Hiệp ước hạn chế vũ khí chiến lược (SALT) giữa Mỹ và Liên Xô trong thập niên 1970.

Ngược lại, ông đánh giá rằng một thỏa thuận nhằm hạn chế hoặc dừng toàn bộ tốc độ phát triển AI khó có thể thực hiện được trong tương lai gần, do việc kiểm chứng theo từng quốc gia là khó khăn và có nguy cơ một số quốc gia rút khỏi thỏa thuận.

Trong ngành đã có một số phản ứng tích cực. Sam Altman (Sam Altman), Tổng giám đốc điều hành (CEO) của OpenAI, cho biết sẽ xem xét phương án trao quyền tiếp cận cho các bên đánh giá bên ngoài, còn Elon Musk (Elon Musk) phản hồi rằng “Dario is right” (Dario nói đúng).

AP dẫn lại hai phát biểu này và giải thích rằng các công ty đã hưởng ứng việc tăng cường an toàn, nhưng chưa thực sự đồng thuận về việc hạ tốc độ phát triển AI nói chung. Do đó, phản ứng của ngành hiện chỉ giới hạn ở việc đánh giá bên ngoài và tăng cường quy trình an toàn, chứ chưa phải là áp dụng chính sách chung.

Đề xuất lần này khác với các thảo luận trước đây ở chỗ đã mở rộng vấn đề an toàn AI sang cả kiểm soát xuất khẩu bán dẫn và vấn đề truy cập trung tâm dữ liệu. Trong bối cảnh cạnh tranh năng lực mô hình AI và việc đảm bảo hạ tầng điện toán diễn ra song song, tiêu chuẩn an toàn và kiểm soát chuỗi cung ứng được đưa ra cùng lúc.

Nội dung Amodei đề xuất cơ chế an toàn ba giai đoạn thay vì dừng phát triển AI đã từng được báo đưa tin trước đó. Bài luận lần này bổ sung thêm ý tưởng hợp tác an toàn có giới hạn giữa Mỹ và Trung Quốc cùng kiểm soát chất bán dẫn tiên tiến, qua đó đưa ra góc nhìn ở cấp độ an ninh quốc tế.

Phạm vi thảo luận cũng có thể mở rộng sang ngành AI và bán dẫn trong nước. Tuy nhiên, chưa có nội dung nào cho thấy Mỹ và Trung Quốc đã đồng ý với thỏa thuận này hay đã có lịch trình thực hiện cụ thể.