Đài Loan đề xuất xếp loại rủi ro AI agent theo phạm vi năng lực

Cơ quan Giám sát Tài chính Đài Loan đề xuất khung quản lý an toàn, phân loại các kịch bản sử dụng tác nhân AI trong lĩnh vực tài chính theo độ nhạy của dữ liệu, mức độ ảnh hưởng của hành động, phạm vi năng lực và khả năng lan rộng. Các công ty tài chính cần xác định dữ liệu mà tác nhân được phép truy cập, công cụ được sử dụng và hành động được thực hiện theo từng nhiệm vụ, rồi áp dụng biện pháp kiểm soát tương ứng với mức rủi ro.

Ngày 13 tháng 10, Cơ quan Giám sát Tài chính Đài Loan công bố tài liệu tham vấn về “An toàn khi sử dụng AI tác nhân trong ngành tài chính” và cho biết sẽ tiếp nhận ý kiến trong 30 ngày. Tài liệu đề cập đến quản trị an toàn, phân loại rủi ro và biện pháp kiểm soát bảo mật. Ý kiến được tiếp nhận tại mục “Chung Khai Giang” trên nền tảng tham gia chính sách công của Đài Loan.

AI tác nhân có thể lập kế hoạch các bước công việc, gọi công cụ và xử lý nhiệm vụ bằng dữ liệu từ nhiều hệ thống, thay vì chỉ trả lời câu hỏi. Cơ quan này cho biết việc sử dụng phù hợp có thể cải thiện hiệu quả vận hành và thúc đẩy đổi mới dịch vụ. Tuy nhiên, nếu quản lý không đầy đủ, tác nhân có thể đi chệch mục tiêu, sử dụng sai công cụ hoặc vượt quá quyền hạn; rò rỉ thông tin nhạy cảm và lỗi lan rộng qua nhiều bước cũng là những rủi ro được nêu ra.

Tài liệu khuyến nghị lấy “kịch bản sử dụng” làm đơn vị quản lý thay vì từng mô hình hay sản phẩm riêng lẻ. Các công ty tài chính cần xác định mục đích công việc và phân chia trách nhiệm, đồng thời nêu rõ dữ liệu được truy cập, công cụ được gọi, hành động được thực hiện và nơi lưu kết quả. Tài liệu cũng yêu cầu chuẩn bị quy trình ứng phó, dừng hoạt động và truy vết sau sự cố; tùy mức rủi ro, doanh nghiệp cần áp dụng các biện pháp rà soát, giám sát, kiểm tra, thu hẹp chức năng, dừng và khôi phục.

Rủi ro được đánh giá theo ba trục: độ nhạy của dữ liệu, mức độ ảnh hưởng của hành động AI thực hiện, cùng phạm vi năng lực và khả năng lan rộng của lỗi hoặc hành động. Nếu kết quả đánh giá giữa các trục khác nhau, cần lấy mức rủi ro cao hơn làm căn cứ. Kết quả phân loại sẽ được dùng để xác định tiêu chí phê duyệt, điều kiện thử nghiệm và chuyển sang vận hành, mức độ kiểm soát và hoạt động kiểm tra sau đó; việc đánh giá cũng cần được thực hiện liên tục.

Về kiểm soát bảo mật, tài liệu đề xuất xem AI tác nhân là một “danh tính phi con người” có khả năng hành động và gắn với từng đơn vị công việc. Theo nguyên tắc zero trust, doanh nghiệp cần xác minh danh tính liên tục, chỉ cấp quyền tối thiểu cần thiết và theo dõi hành động. Tài liệu đưa ra yêu cầu bảo mật cơ bản và tăng cường cho các lĩnh vực gồm danh tính, môi trường thực thi, mạng, ứng dụng và khối lượng công việc, dữ liệu, kiểm soát hành động, khả năng quan sát và phân tích.

Cơ quan này nhấn mạnh tài liệu không thay thế luật hiện hành, quy định giám sát, quản lý hoạt động thuê ngoài hay kiểm soát nội bộ của các công ty tài chính. Do công nghệ và cách sử dụng thay đổi nhanh, cơ quan dự kiến dùng kết quả tham vấn làm tài liệu tham khảo cho việc xem xét chính sách, xây dựng hướng dẫn và thảo luận giữa cơ quan giám sát với ngành tài chính. Cơ quan cũng đề nghị người gửi ý kiến nêu kịch bản áp dụng, mức rủi ro, hạn chế thực tế và hiệu quả kiểm soát có thể kiểm chứng, thay vì chỉ tập trung vào một mô hình hay sản phẩm cụ thể.