Sam Altman nêu 3 kịch bản kết thúc cuộc đua AI tiên tiến, cảnh báo một công ty độc chiếm là “khủng khiếp”

Sam Altman, CEO OpenAI, nêu ba kịch bản có thể khép lại cuộc đua phát triển AI tiên tiến: thành lập cơ quan giám sát quốc tế, sáp nhập các phòng thí nghiệm hàng đầu hoặc để một công ty độc chiếm. Ông đánh giá kịch bản thứ ba là “khủng khiếp”.

Crypto Briefing đưa tin ngày 19 rằng Altman đưa ra các kịch bản này trong một cuộc thảo luận với nhân viên OpenAI. Đây không phải chính sách chính thức của OpenAI được công bố bằng văn bản.

Kịch bản đầu tiên là một cơ quan quản lý quốc tế, theo mô hình cơ quan giám sát công nghệ hạt nhân. Cơ quan này sẽ giám sát việc phát triển AI và mức độ an toàn của các hệ thống. Altman gọi đây là mô hình quen thuộc nhất, nhưng để triển khai, các quốc gia cần thống nhất quy tắc cho một công nghệ mà nhiều nước xem là tài sản chiến lược.

Kịch bản thứ hai là hợp nhất các phòng thí nghiệm AI hàng đầu thành một tổ chức. Thay vì cạnh tranh để đưa sản phẩm ra trước, các công ty dẫn đầu sẽ chia sẻ tiêu chuẩn và thực tiễn an toàn. Crypto Briefing lưu ý rằng phương án này có thể giải quyết vấn đề phối hợp, nhưng lại tạo ra một vấn đề tập trung khác: một tổ chức khổng lồ duy nhất.

Kịch bản thứ ba là một công ty đạt được khả năng tự cải thiện đệ quy (RSI) trước các đối thủ và độc chiếm thị trường. RSI là quá trình AI cải thiện thiết kế của chính mình rồi dùng năng lực được nâng cao để tiếp tục tự chỉnh sửa. Altman đề cập đến khả năng cực đoan rằng công ty đó có thể vô hiệu hóa cả GPU của đối thủ. GPU là loại chip chuyên dụng được dùng để huấn luyện và triển khai AI.

Trước đó, Altman cũng nêu hai rủi ro tại các sự kiện công khai: con người mất khả năng kiểm soát các hệ thống AI và quyền lực tập trung vào một số ít tổ chức. Crypto Briefing đưa tin ông nói ngày 14 tháng 9 rằng không thể chấp nhận cả hai kết quả này. Altman mô tả lập trường của OpenAI là đứng về phía toàn nhân loại, thay vì một công ty hay nhóm cụ thể; ông cũng kêu gọi tăng cường quy trình an toàn và đánh giá độc lập các hệ thống AI.

Những phát biểu này cũng liên quan đến tranh luận trong ngành về việc điều chỉnh tốc độ phát triển. Sau khi Dario Amodei, CEO Anthropic, đề xuất làm chậm tốc độ cải thiện hiệu năng của các mô hình AI tiên tiến nhất để có thêm thời gian nghiên cứu an toàn và ứng phó rủi ro, Altman và Elon Musk đã bày tỏ ủng hộ. Crypto Briefing cho biết Altman ủng hộ bài luận “Pace the Frontier” của Amodei vào tháng 9. Bài viết kêu gọi phối hợp các thực tiễn an toàn và hoạt động đánh giá trong toàn ngành.

Cả ba kịch bản đều đặt ra vấn đề tập trung quyền lực theo những cách khác nhau. Cơ quan giám sát quốc tế phụ thuộc vào sự đồng thuận giữa các quốc gia; việc hợp nhất các phòng thí nghiệm có thể giảm cạnh tranh nhưng dồn quyền lực vào một tổ chức. Kịch bản độc chiếm cũng phản ánh mối lo ngại về tập trung quyền lực mà Altman từng nêu.