AI agent vận hành nhanh, mô hình bảo mật truyền thống bộc lộ giới hạn

Khi các tác nhân trí tuệ nhân tạo (AI agent) xử lý công cụ và dữ liệu bên ngoài với tốc độ nhanh hơn con người, mô hình an ninh mạng truyền thống dựa trên phê duyệt của con người và ứng phó sau sự cố đang bộc lộ giới hạn. Các chuyên gia cho rằng hệ thống bảo mật cần chuyển sang cơ chế hạn chế và ghi lại hành vi tự chủ của AI agent theo thời gian thực.

TechCrunch ngày 23 đưa tin Shardul Shah(Index Ventures), đối tác phụ trách đầu tư vào an ninh mạng và phần mềm doanh nghiệp, đã đưa ra nhận định này trong một podcast. Shah cho biết Index Ventures đã đầu tư vào lĩnh vực an ninh mạng và phần mềm doanh nghiệp, đồng thời tham gia nhiều vòng gọi vốn của Wiz, công ty an ninh đám mây.

Hệ thống bảo mật truyền thống thường vận hành theo mô hình con người kiểm tra cảnh báo rồi quyết định có ứng phó hay không. Trong mô hình này, thời gian phân tích và phê duyệt thường được xem là một phần của quy trình xử lý.

Tuy nhiên, AI agent không chỉ diễn giải mệnh lệnh mà còn có thể gọi các công cụ bên ngoài, xử lý dữ liệu và thực hiện liên tiếp nhiều tác vụ. Vì vậy, thời gian con người kiểm tra trong quá trình tấn công và phòng thủ có thể trở thành một điểm yếu mới.

Shah cho rằng các phương thức bảo mật chỉ có con người can thiệp định kỳ khó theo kịp tốc độ của AI agent. Khi agent được kết nối trực tiếp với hệ thống nghiệp vụ và công cụ bảo mật, việc quản lý khoảng cách giữa quy trình phê duyệt của con người và hoạt động tự động trở nên quan trọng hơn.

Trong bối cảnh lo ngại về an toàn AI và các agent không được kiểm soát gia tăng, dòng vốn cũng đang chảy vào các startup liên quan. TechCrunch giới thiệu Instinct và Simile là những startup đã nhận được các khoản đầu tư lớn cùng mức định giá mà trước đây khó có thể giải thích.

Tuy nhiên, TechCrunch mô tả Simile là startup phát triển dịch vụ marketing và nghiên cứu sản phẩm bằng người dùng ảo, đồng thời cho biết lĩnh vực kinh doanh của công ty này khác với Instinct, một công ty an ninh AI.

Các thương vụ mua bán quy mô lớn cũng được xem là ví dụ cho thấy tầm quan trọng của công nghệ bảo mật. Google thông báo đã hoàn tất thương vụ mua lại Wiz, công ty an ninh đám mây và AI, vào tháng 3.

Google cho biết thương vụ nhằm tăng cường năng lực bảo mật đa đám mây và bảo mật dựa trên AI. TechCrunch giới thiệu quy mô giao dịch là 32 tỷ USD (khoảng 43,328 nghìn tỷ won), trong khi hồ sơ công bố của Google ghi nhận mức 29,5 tỷ USD (khoảng 39,943 nghìn tỷ won) sau khi phản ánh điều chỉnh giá mua. Chênh lệch giữa thông báo chính thức của Google và hồ sơ công bố với Ủy ban Chứng khoán và Giao dịch Mỹ (SEC) xuất phát từ cách phản ánh các điều kiện giao dịch khác nhau.

Công nghệ phòng thủ cũng đang chuyển sang hướng ứng dụng AI. Palo Alto Networks đã ra mắt dịch vụ thuê bao sử dụng nhiều mô hình AI để tìm lỗ hổng bảo mật trong hệ thống khách hàng và đề xuất phương án khắc phục. Palo Alto Networks cho biết dịch vụ sử dụng kết hợp mô hình của Anthropic, OpenAI và các mô hình open-weight.

Điều này cho thấy sản phẩm bảo mật đang mở rộng từ chức năng phát hiện đơn thuần sang tự động hóa cả việc phân tích lỗ hổng và đề xuất khắc phục.

Tuy nhiên, việc đưa AI vào phòng thủ không đồng nghĩa rủi ro sẽ biến mất. Anthropic cho biết trong báo cáo mối đe dọa tháng 9 rằng họ đã quan sát các cuộc tấn công tự động có khả năng cập nhật quyền truy cập hoặc thu thập không gian lưu trữ đám mây mà không cần con người can thiệp. Báo cáo đặt ra yêu cầu quản lý riêng quyền hạn và phạm vi hành động của agent.

Trong bảo mật AI agent, phạm vi quyền truy cập, nhật ký sử dụng công cụ bên ngoài và quy trình dừng tác vụ là những đối tượng quản lý cốt lõi. Cần lưu lại agent đã nhận mệnh lệnh nào và truy cập hệ thống nào để có thể truy tìm nguyên nhân khi sự cố xảy ra.

Những thảo luận này cũng có thể mở rộng sang ngành công nghiệp trong nước. TokenPost trước đó đã đưa tin AI agent có thể thực hiện sửa tệp, chạy lệnh, tìm kiếm và triển khai. Khi AI có quyền hoạt động trong hệ thống nghiệp vụ, chỉ quản lý tài khoản sẽ không đủ để hoàn tất việc kiểm soát bảo mật.

Shah cho biết Index Ventures đang đầu tư vào các công ty bảo mật dựa trên AI với mức thẩm định ít hơn trước đây. Khi phạm vi ứng dụng của AI agent tiếp tục mở rộng, cạnh tranh giữa các công ty bảo mật không chỉ xoay quanh năng lực phát hiện mà còn bao gồm khả năng hạn chế quyền của agent, ghi lại hành vi và dừng hoạt động khi cần thiết.