Musk đề xuất đối thủ kiểm định an toàn AI trước khi ra mắt mô hình mới

Elon Musk đề xuất các công ty AI giao cho đối thủ kiểm định an toàn trước khi công bố mô hình mới, thay vì chỉ dựa vào đánh giá nội bộ.

Musk đưa ra đề xuất này tại ‘All-In Summit’ ngày 15. BlockBeats đưa tin về phát biểu trên.

Musk cho rằng các công ty AI lớn của Mỹ và những bên tham gia chủ chốt tại Trung Quốc nên kiểm thử mô hình của nhau trước khi phát hành. Ông không nêu danh sách doanh nghiệp tham gia hoặc lịch triển khai cụ thể.

Cốt lõi của đề xuất là mỗi công ty áp dụng công cụ kiểm định an toàn của mình lên mô hình của đối thủ. Các công cụ này gồm một loạt quy trình nhằm xác định liệu mô hình AI có thực hiện hành vi nguy hiểm hoặc che giấu chỉ dẫn hay không.

Musk ví cách kiểm định nội bộ hiện nay như ‘tự chấm bài của chính mình’. Theo ông, nếu đối thủ trực tiếp kiểm thử mô hình, họ có thể có thêm động lực phát hiện rủi ro mà đánh giá nội bộ của nhà phát triển bỏ sót.

Ông cũng cho rằng trách nhiệm pháp lý của nhà phát triển có thể tăng nếu doanh nghiệp vẫn ra mắt mô hình sau khi đối thủ chỉ ra rủi ro an toàn, rồi vấn đề phát sinh. Việc phớt lờ kết quả kiểm định trước khi phát hành có thể ảnh hưởng đến đánh giá trách nhiệm sau đó.

Đề xuất này xuất phát từ quan điểm cho rằng cạnh tranh về hiệu năng và kiểm định an toàn AI cần được tiến hành song song. Mục tiêu là đưa hoạt động kiểm tra của đối thủ bên ngoài vào giai đoạn trước khi phát hành để phát hiện các lỗ hổng mà đánh giá nội bộ có thể bỏ qua.

Trước đó, Musk từng đề xuất cơ chế kiểm thử an toàn trước khi phát hành giữa các phòng nghiên cứu. Trong phát biểu lần này, ông tiếp tục đưa ra ý tưởng kiểm định chéo giữa các đối thủ, với nội dung không giao toàn bộ quy trình kiểm tra trước phát hành cho nội bộ phòng nghiên cứu.

Musk không ủng hộ cơ chế chỉ có doanh nghiệp Mỹ tham gia. Ông cho rằng nếu loại các bên chủ chốt tại Trung Quốc khỏi cơ chế này, tốc độ phát triển và gánh nặng tuân thủ có thể tập trung vào các công ty Mỹ.

Hợp tác AI giữa Mỹ và Trung Quốc không chỉ liên quan đến cạnh tranh công nghệ giữa các doanh nghiệp, mà còn gắn với việc thiết lập tiêu chuẩn kiểm định và quy trình ứng phó rủi ro. Tuy nhiên, để tiến tới đàm phán chính thức hoặc thỏa thuận giữa chính phủ như các cuộc thảo luận về hiệp định an toàn AI Mỹ-Trung, vẫn cần những thủ tục riêng.

Việc giao cho đối thủ kiểm định an toàn có thể làm tăng độ tin cậy của kết quả đánh giá, nhưng cũng tiềm ẩn xung đột lợi ích. Đối thủ vừa là bên kiểm định vừa cạnh tranh trên thị trường, nên tranh chấp về kết quả kiểm thử có thể phát sinh.

Việc cung cấp trực tiếp mô hình cho đối thủ cũng đặt ra nguy cơ lộ bí mật kinh doanh và thông tin bảo mật. Nếu không xác định phạm vi kiểm thử và quyền tiếp cận, cơ chế kiểm định chéo có thể tạo ra rủi ro an ninh mới.

Cách công bố kết quả kiểm định cũng là vấn đề cần giải quyết. Việc công khai ngay rủi ro hay cho nhà phát triển cơ hội khắc phục trước có thể ảnh hưởng đến lịch phát hành của doanh nghiệp và mức độ bảo vệ người dùng.

Phát biểu lần này là đề xuất cá nhân của Musk, không phải chính sách hay thỏa thuận giữa các doanh nghiệp. Danh sách bên tham gia, tiêu chuẩn kiểm thử chung, quyền tiếp cận mô hình, cách công bố kết quả và lịch triển khai vẫn chưa được cụ thể hóa.

Để cơ chế kiểm định chéo trở thành制度 thực tế, các bên tham gia như Mỹ và Trung Quốc sẽ cần thống nhất tiêu chuẩn chung và phạm vi trách nhiệm. Hiện đề xuất mới dừng ở việc mở rộng kiểm thử an toàn AI trước phát hành sang mô hình hợp tác giữa các đối thủ.