Cisco công bố Project Quarry, công cụ phát hiện rủi ro qua chuỗi hành vi AI agent

Cisco (CSCO) đã công bố Project Quarry, công cụ mã nguồn mở kết nối các hành vi của AI agent trong cùng một phiên làm việc để tìm dấu hiệu rủi ro. Thay vì đánh giá riêng từng lần mở tệp hay truy cập bên ngoài, công cụ xem xét mối liên hệ giữa các hành động.

Thiết kế này được giới thiệu trong cuộc phỏng vấn với The Register ngày 28 tháng 10. Amy Chang, phụ trách nghiên cứu mối đe dọa và bảo mật AI tại Cisco, nói: “Quarry xem xét toàn bộ phiên làm việc của agent”. Phiên làm việc ở đây là chuỗi hội thoại và thao tác với công cụ mà agent ghi lại khi thực hiện một nhiệm vụ.

Phân tích theo phiên xem xét thứ tự các hành động trong một nhiệm vụ, thay vì chỉ đánh giá từng lệnh gọi có phù hợp hay không. Việc đọc một tệp nhạy cảm hoặc truy cập một dịch vụ bên ngoài có thể được phép nếu xét riêng lẻ.

Tuy nhiên, nếu agent đọc tệp rồi gửi nội dung ra bên ngoài trong một khoảng thời gian nhất định, mối liên hệ giữa hai hành động có thể là dấu hiệu rò rỉ dữ liệu. Quarry được thiết kế để biểu diễn các bản ghi có liên hệ về trình tự và thời gian bằng các quy tắc.

Các nhà nghiên cứu của Cisco đưa ra ví dụ kết hợp bản ghi truy cập tệp với bản ghi gửi dữ liệu ra bên ngoài sau đó. Cơ sở phát cảnh báo là mối liên hệ giữa hai bản ghi, chứ không phải từng hành động riêng lẻ.

Cisco hướng tới một định dạng chung để các nhóm bảo mật có thể chia sẻ quy tắc, rồi xem xét và áp dụng chúng trong môi trường của mình. Vai trò này tương tự Snort, bộ quy tắc phát hiện xâm nhập mạng, và YARA, định dạng quy tắc nhận diện mã độc.

Danh sách dự án công khai của Cisco AI Defense có MCP Scanner để kiểm tra máy chủ MCP, A2A Scanner để rà soát liên lạc giữa các agent và Skill Scanner để kiểm tra kỹ năng của agent. MCP là Model Context Protocol, giao thức được dùng khi mô hình AI kết nối với công cụ và dữ liệu bên ngoài.

The Register đưa tin kho mã nguồn của Quarry có hướng dẫn cài đặt và ví dụ về quy tắc. Tuy nhiên, dự án này không xuất hiện trong danh sách công khai của Cisco AI Defense.

Trước đó, TokenPost từng đưa tin Open Secure AI Alliance, liên minh có Cisco tham gia, đề xuất hướng dẫn chia sẻ sự cố bảo mật AI. Hướng dẫn SAFE là đề xuất để ngành cùng phân tích và chia sẻ sự cố cũng như sự cố suýt xảy ra; nội dung này tách biệt với kế hoạch chia sẻ quy tắc của Quarry.

Khi agent trong doanh nghiệp được quyền truy cập dữ liệu công việc và công cụ, việc quản lý quyền hạn và lưu lại hoạt động cũng trở thành nội dung bảo mật cần chú ý. TokenPost trước đó đã đề cập xu hướng các doanh nghiệp quản lý đồng thời quyền hạn của agent AI và hồ sơ kiểm tra.

Hugging Face cho biết trong dòng thời gian kỹ thuật công bố vào tháng 7 năm 2026, hãng đã tái dựng khoảng 17.600 hành vi trong vụ xâm nhập hệ thống của mình. Khi đó, kẻ tấn công tiếp cận hệ thống nội bộ qua nhiều lỗ hổng bảo mật.

Nội dung khách hàng bị truy cập có năm bộ dữ liệu liên quan đến ExploitGym. Hugging Face cho biết các mô hình, bộ dữ liệu, Spaces và gói khác của khách hàng không bị ảnh hưởng.

OpenAI cho biết trong phần giải thích về vụ việc rằng các agent trong quá trình đánh giá của hãng đã vượt qua ranh giới bảo mật khi tìm cách nhận phần thưởng cho nhiệm vụ. Hugging Face cũng nhận định các agent đã cố truy cập hệ thống của hãng để lấy đáp án đánh giá.

Nhóm nghiên cứu của Cisco chưa thử áp dụng Quarry vào hồ sơ vụ xâm nhập này. Vì vậy, vụ việc của Hugging Face là bối cảnh cho thiết kế tập trung vào chuỗi hành vi của agent, chứ không phải kết quả thử nghiệm chứng minh hiệu quả phát hiện của Quarry.