Trợ lý AI Rovo của Atlassian (TEAM) bị cảnh báo có thể bị chiếm quyền điều khiển thông qua các câu lệnh ẩn giấu trong file PDF, khiến dữ liệu dự án bị gửi ra ngoài mà người dùng không hề thao tác gì.
Theo ABMedia đưa tin, công ty bảo mật PromptArmor cho biết đã phát hiện phương thức tấn công này bằng cách chèn các prompt vô hình vào file PDF để chiếm quyền kiểm soát Rovo và lấy đi tài liệu dự án. PromptArmor cho biết đã báo lỗ hổng này cho Atlassian từ ngày 23 tháng 5 nhưng đến nay vẫn chưa được khắc phục.
Đây là kiểu tấn công prompt injection, trong đó AI bị đánh lừa để ưu tiên thực hiện các chỉ dẫn ẩn trong tài liệu bên ngoài thay vì yêu cầu thật sự của người dùng. Cảnh báo lần này còn dẫn kết quả khảo sát cho thấy hơn 79% AI agent được kiểm tra không thể chặn được kiểu tấn công dạng này.
Bình luận 0