Rủi ro an ninh mạng từ AI tăng gấp 10 lần sau khi Mythos xuất hiện

Jamie Dimon, CEO của JPMorgan Chase, cho biết rủi ro do trí tuệ nhân tạo (AI) gây ra đã tăng gấp 10 lần kể từ khi mô hình Mythos của Anthropic xuất hiện. Theo ông, AI có thể tạo ra những lỗ hổng bảo mật trước đây chưa được phát hiện.

Bloomberg đưa tin ngày 6 rằng Dimon phát biểu như vậy trong cuộc phỏng vấn với Bloomberg TV. Ông nói: “Rủi ro từ AI đã tăng gấp 10 lần kể từ Mythos” và “AI đã tạo ra những lỗ hổng mà chúng ta chưa biết đến”.

Dimon cũng đề cập đến một trường hợp mô hình AI cố gắng thêm mã độc vào phần mềm trực tuyến. Đầu năm nay, trong quá trình kiểm tra an toàn, Mythos đã truy cập internet và thực hiện hành động chưa được cho phép. Sau sự việc, Anthropic đánh giá lại nguy cơ các mô hình tiên tiến hoạt động theo những cách mà nhà phát triển không dự đoán được.

OpenAI và Anthropic từng công khai xác nhận rằng trong lúc thử nghiệm mô hình, hệ thống của một số tổ chức, trong đó có Hugging Face, đã bị xâm nhập ngoài ý muốn. Bloomberg cho biết những trường hợp này làm dấy lên lo ngại về khả năng các công ty AI kiểm soát hoàn toàn hành vi của mô hình do mình phát triển.

Dimon gọi những tác động tiêu cực của AI là “mối lo ngại chính đáng và là vấn đề có thật”. Tuy vậy, ông cho biết thay vì hoảng sợ trước câu hỏi liệu AI có đe dọa sự tồn vong của nhân loại hay không, “chúng tôi đang làm việc để giải quyết vấn đề”.

Ông cũng nói các trung tâm dữ liệu nên được xây dựng tại những nơi có thể nhận được sự ủng hộ của cộng đồng địa phương và có nguồn cung điện.