AI agent lan rộng, doanh nghiệp xây dựng trung tâm kiểm soát quyền hạn và kiểm toán

Khi các AI agent truy cập trực tiếp vào hệ thống doanh nghiệp để thực hiện công việc, nhiều công ty đang xây dựng cơ chế kiểm soát kết hợp quản lý quyền hạn, ghi nhận hoạt động và giám sát an ninh. Phạm vi tự động hóa mở rộng khiến rủi ro chuyển từ câu trả lời sai sang lạm dụng quyền hạn, truy cập dữ liệu nhạy cảm và tấn công chèn lệnh.

Khác với chatbot chỉ trả lời câu hỏi, AI agent có thể kết nối nhiều ứng dụng, xác định trình tự công việc và gọi các công cụ. Do đó, doanh nghiệp phải quản lý danh tính của agent, quyền hạn được cấp, hoạt động đã thực hiện và khả năng dừng tác vụ khi xảy ra sự cố.

Intuit(INTU) đã tích hợp các chức năng kiểm soát an ninh, rủi ro và gian lận vào hệ điều hành AI tạo sinh 'GenOS'. GenOS được thiết kế để quản lý prompt, dữ liệu, mô hình ngôn ngữ lớn(LLM) cùng các chức năng lập kế hoạch, suy luận và thực thi của agent trong một môi trường phát triển.

Intuit cho biết hệ thống được thiết kế để khách hàng vẫn giữ quyền kiểm soát ngay cả khi agent hành động thay mặt họ. Công ty tự động hóa các công việc như xử lý khoản phải thu, khoản phải trả và cập nhật luật thuế, đồng thời yêu cầu lập trình viên cùng chuyên gia thuế, kế toán kiểm tra các kết quả liên quan đến thuế.

Intuit cho biết trong vòng 5 tuần sau khi công bố bộ công cụ phát triển agent, hàng trăm agent đã được xây dựng cho các trường hợp sử dụng tiềm năng. Điều này cho thấy khi số lượng agent tăng lên, cơ chế quản lý quyền hạn và nhật ký sau triển khai có thể trở nên quan trọng không kém hiệu suất của từng chức năng riêng lẻ.

Workday(WDAY) đã công bố 'Agent System of Record', một hệ thống quản lý AI agent như 'nhân lực kỹ thuật số'. Hệ thống hỗ trợ đăng ký, triển khai, phân tích, quản lý vòng đời và truy vết trách nhiệm của agent, đồng thời cho phép đăng ký và giám sát cả các agent do bên ngoài phát triển.

ServiceNow(NOW) cho biết 'AI Control Tower' cho phép doanh nghiệp tìm kiếm các mô hình AI, agent và máy chủ Model Context Protocol(MCP), đồng thời quản lý tập trung quyền hạn, an ninh, hoạt động và hiệu suất. Phiên bản mở rộng được công bố vào tháng 5 năm 2026 đã đưa cả các hệ thống AI được triển khai bên ngoài ServiceNow vào phạm vi quản lý.

Theo mô tả sản phẩm của ServiceNow, AI Control Tower theo dõi danh tính, quyền truy cập và trạng thái phơi nhiễm của agent, ngăn chặn tấn công chèn lệnh và áp dụng nguyên tắc đặc quyền tối thiểu. Workday và ServiceNow đang xem agent là chủ thể thực hiện công việc có danh tính và quyền hạn riêng, thay vì chỉ là một chức năng phần mềm.

Xu hướng này cũng phù hợp với bài viết trước của TokenPost về việc trọng tâm cạnh tranh AI agent đang chuyển từ hiệu suất mô hình sang hệ thống doanh nghiệp. Khi agent dành cho doanh nghiệp có quyền truy cập email, công cụ cộng tác và dữ liệu công việc, doanh nghiệp cần vận hành phê duyệt tập trung, đặc quyền tối thiểu và nhật ký kiểm toán như một cơ chế thống nhất.

Ngành an ninh cũng đang đưa ra các biện pháp 대응. Nvidia(NVDA) đã ra mắt Open Secure AI Alliance vào ngày 27 tháng 7 năm 2026. Cisco(CSCO), Microsoft(MSFT), Samsung Electronics, SK Telecom, ServiceNow, Workday và Zscaler(ZS) tham gia liên minh, đồng thời nhất trí cùng phát triển các công cụ và công nghệ mã nguồn mở để bảo vệ AI agent và phần mềm.

Zscaler cho biết công ty cung cấp các chức năng kiểm soát truy cập theo từng người dùng, giám sát prompt và phản hồi, cũng như ngăn chặn rò rỉ dữ liệu nhạy cảm đối với AI agent và AI tạo sinh. Mức tăng 3.464,6% trong lưu lượng AI mà công ty đưa ra dựa trên dữ liệu nội bộ phân tích 536 tỷ giao dịch, nên không thể khái quát thành mức tăng của toàn bộ thị trường doanh nghiệp.

Tranh luận về tốc độ phát triển AI cũng tiếp diễn. Dario Amodei(Antropic) CEO Anthropic, trong một bài viết công bố vào tháng 9, lập luận rằng cần làm chậm tốc độ nâng cao năng lực của mô hình AI để có thời gian xây dựng các biện pháp an toàn. Ông cũng đề xuất trao quyền truy cập thường xuyên vào hệ thống cho các tổ chức đánh giá độc lập.

Chris Lehane, người phụ trách chính sách của OpenAI, cho biết OpenAI đã thảo luận về vấn đề an toàn AI với Anthropic và Google DeepMind trong vài tuần. Tuy nhiên, chưa có thông tin xác nhận về thỏa thuận chính thức hoặc lịch triển khai một kế hoạch cùng làm chậm tốc độ phát triển.

Ở chiều ngược lại, một số ý kiến cho rằng cần phát triển AI cùng các cơ chế kiểm soát thay vì làm chậm toàn diện. Fortune đưa tin Jim Fowler, CTO kiêm giám đốc sản phẩm của Lumen Technologies, cho rằng cần 'tăng tốc an toàn'. Mark Zuckerberg của Meta(META) cũng giữ khoảng cách với quan điểm làm chậm đồng loạt ở cấp ngành.

Khi doanh nghiệp bổ sung các lớp quyền hạn, kiểm toán và an ninh thay vì dừng triển khai AI agent, trọng tâm cạnh tranh đang mở rộng từ bản thân mô hình sang cơ chế quản trị hệ thống doanh nghiệp. Trong lĩnh vực tài chính, các nguyên tắc đặt dữ liệu sử dụng AI, hiệu suất mô hình và tiêu chí dừng dưới trách nhiệm của ban lãnh đạo cũng đã được xây dựng.

Tuy nhiên, vẫn cần kiểm chứng riêng liệu các chức năng kiểm soát do Intuit, ServiceNow và Workday đưa ra có thực sự giúp giảm sự cố hoặc chi phí vận hành hay không. Các tài liệu đã công bố hiện chưa đưa ra số liệu so sánh mức giảm sự cố và chi phí vận hành của từng doanh nghiệp theo cùng một tiêu chuẩn.