Anthropic: Claude bị lợi dụng tấn công mạng và xây hệ thống giám sát diện rộng

Anthropic cho biết mô hình AI Claude đã bị người dùng nói tiếng Nga và tiếng Trung Quốc lợi dụng để thực hiện các cuộc tấn công mạng, đồng thời bị sử dụng để xây dựng một hệ thống giám sát quy mô lớn tại Mali.

Theo báo cáo tình báo về mối đe dọa công bố ngày 10, nhóm người dùng nói tiếng Nga có biệt danh “Jackpotters” đã dùng quy trình làm việc dựa trên Claude để tự động hóa phần lớn công đoạn tấn công, nhắm mục tiêu vào hơn 20 tổ chức gồm các bộ ngành chính phủ, cơ quan tình báo và đại sứ quán của Ukraine cùng nhiều nước châu Âu. Anthropic cho biết một kẻ tấn công đơn lẻ có thể hoàn tất một vụ xâm nhập chỉ trong 2-3 giờ và xử lý đồng thời hàng chục nạn nhân.

Nhóm người dùng nói tiếng Trung Quốc lại sử dụng Claude như một lớp điều phối cho việc nghiên cứu lỗ hổng bảo mật và phát triển công cụ tấn công. Anthropic cho biết một quy trình làm việc đã phân tích firmware của thiết bị mạng và phát hiện hơn 12 lỗ hổng zero-day tiềm ẩn mỗi tháng.

Tại Mali, một chuyên gia tư vấn độc lập được cho là cư trú tại thủ đô Bamako đã phối hợp với cơ quan tình báo quốc gia nước này để xây dựng nền tảng giám sát mang tên “Lakana 360”. Anthropic cho biết hệ thống này được thiết kế để thu thập dữ liệu cuộc gọi, tin nhắn từ khoảng 25 triệu thẻ SIM của ba nhà mạng viễn thông địa phương, đồng thời tự động tạo hồ sơ thông tin cho các số điện thoại cụ thể mà không cần lệnh của tòa án.