Elon Musk đề xuất các công ty AI kiểm chứng an toàn lẫn nhau trước khi ra mắt mô hình

Elon Musk đề xuất các công ty AI hàng đầu kiểm chứng an toàn lẫn nhau trước khi ra mắt mô hình, trong bối cảnh rủi ro từ trí tuệ nhân tạo (AI) ngày càng lớn. Ông cho rằng cơ chế kiểm chứng chéo này cần có sự tham gia không chỉ của các công ty Mỹ mà cả các công ty AI lớn của Trung Quốc.

Phát biểu tại hội nghị All-In Summit tổ chức ở Los Angeles (Mỹ) ngày 14 (giờ địa phương), Elon Musk nói AI ở giai đoạn hiện tại “rất nguy hiểm” và nhấn mạnh cần nâng cao hơn nữa mức độ an toàn của AI. Phát biểu này được ABMedia đưa tin.

Musk giải thích rằng các sự cố liên quan đến AI agent và an ninh mạng gần đây đã cho thấy rõ mức độ rủi ro của các mô hình AI. Theo ông, một mô hình đủ tiên tiến có thể tìm cách vượt qua chính những giới hạn được thiết lập cho nó.

Ông khẳng định rủi ro AI đang “tăng theo cấp số nhân”. Musk cho biết ngay trong nội bộ Anthropic cũng xuất hiện những lo ngại về mức độ nguy hiểm của mô hình, và nhân sự nội bộ OpenAI cũng đưa ra những cảnh báo tương tự.

Musk cũng giải thích lý do trước đó ông viết trên mạng xã hội rằng “Dario đúng”, nhắc đến Dario Amodei, CEO của Anthropic. Theo ông, phát biểu này không đồng nghĩa với việc ủng hộ toàn bộ một phương án quản lý cụ thể nào, mà chỉ thể hiện sự đồng tình rằng rủi ro AI đã trở nên nghiêm trọng và cần tăng cường an toàn.

Ông chỉ ra vấn đề ở cách các công ty AI tự đánh giá mô hình của chính mình. Musk nói: “Công ty AI không nên tự chấm điểm bài kiểm tra của chính mình”.

Musk đề xuất các công ty lớn như OpenAI, Anthropic, xAI, Google(GOOGL), Meta(META) nên kiểm thử mô hình của nhau trước khi ra mắt. Ý tưởng là công cụ đánh giá an toàn của một công ty không chỉ áp dụng cho mô hình của chính công ty đó, mà còn được dùng để kiểm tra mô hình của các đối thủ cạnh tranh.

Cơ chế kiểm chứng chéo nhằm xác định xem mô hình có sở hữu năng lực nguy hiểm hay không. Phạm vi kiểm tra bao gồm khả năng hỗ trợ chế tạo vũ khí sinh học, vũ khí hạt nhân, hành vi lừa dối con người và các hành vi rủi ro cao khác.

Để thực hiện điều này, Musk cho rằng trước khi một mô hình chính thức ra mắt, công ty phát triển cần cấp một mức quyền truy cập API nhất định cho các công ty AI lớn khác. Đối thủ cạnh tranh sẽ kiểm thử các tính năng nguy hiểm của mô hình đó, còn công ty phát triển sẽ khắc phục các vấn đề được phát hiện trước.

Ông cũng cho biết nếu công ty phát triển từ chối khắc phục, công ty thực hiện kiểm thử có thể công khai rằng mô hình đó tồn tại vấn đề về an toàn. Tuy nhiên, Musk không đưa ra lịch trình cụ thể hay bất kỳ thỏa thuận nào giữa các công ty để triển khai cơ chế này trên thực tế.

Musk cũng phản đối phương án chỉ ràng buộc riêng các công ty Mỹ. Ông cho rằng trong bối cảnh các mô hình Trung Quốc vẫn đang phát triển nhanh chóng, nếu chỉ giới hạn các công ty Mỹ thì Mỹ sẽ tự làm suy yếu năng lực cạnh tranh của mình và có thể nhường lại vị trí dẫn đầu về AI cho Trung Quốc.

Theo ông, thay vì áp đặt trực tiếp một cơ quan quản lý do Mỹ hoặc phương Tây dẫn dắt lên các công ty Trung Quốc, cơ chế kiểm chứng chéo trước khi ra mắt có thể là phương án khả thi hơn. Musk giải thích nếu các công ty ở mỗi quốc gia không phải dừng huấn luyện mô hình mà chỉ kiểm tra an toàn lẫn nhau, thì Trung Quốc cũng có khả năng chấp nhận cách tiếp cận này.

Tranh luận về an toàn AI đang trở thành vấn đề xoay quanh việc cân bằng giữa tốc độ phát triển và các biện pháp bảo đảm an toàn. Thảo luận về giám sát an toàn tại các công ty AI lớn cũng không còn dừng ở việc nhân viên lên tiếng, mà đã trở thành phép thử đối với cơ cấu trách nhiệm của ban lãnh đạo và hội đồng quản trị.

Để cơ chế kiểm chứng chéo này thực sự vận hành, cần có sự đồng thuận giữa các công ty về quyền truy cập mô hình, tiêu chuẩn đánh giá và phạm vi công khai rủi ro. Đề xuất của Musk tập trung vào việc ưu tiên kiểm chứng chéo trong ngành, thay vì thành lập ngay một cơ quan quản lý toàn cầu mới.