Tin tức 
Thông tin Coin 
Về chúng tôi 
Việc AI tác nhân có thể đảm nhiệm cả điều tra, đánh giá và ứng phó trong lĩnh vực bảo mật và chống rửa tiền (AML) làm nổi bật nhu cầu thiết lập cơ chế phân quyền và giám sát trong doanh nghiệp.
CertiK công bố ngày 5 báo cáo của Intel3D mang tên “Sự trỗi dậy của nhân viên AI: AI tác nhân đang thay đổi an ninh mạng, chống rửa tiền và tuân thủ như thế nào”. Báo cáo cho biết AI tác nhân có thể vượt khỏi vai trò hỗ trợ chuyên viên xác định vấn đề, để thực hiện điều tra, đánh giá và hành động trong phạm vi quyền hạn được giao.
Các công cụ AI hỗ trợ thông thường chủ yếu đề xuất kết quả phân tích, trong khi AI tác nhân có thể trực tiếp thực hiện quy trình công việc. Khi được trao quyền phân loại kết quả điều tra hoặc khởi động quy trình ứng phó, AI có thể tự động hóa một phần luồng công việc.
Phạm vi thực thi càng rộng, nguy cơ phán đoán sai dẫn đến hành động thực tế càng tăng. Báo cáo nêu lỗi đánh giá của mô hình, tấn công chèn lệnh (prompt injection) và việc kẻ tấn công lợi dụng AI là những rủi ro cần lưu ý.
Chèn lệnh là hình thức tấn công sử dụng câu chữ hoặc dữ liệu đầu vào để khiến AI hành động khác với chỉ dẫn ban đầu. Nếu AI bảo mật kiểm tra dữ liệu bên ngoài và trực tiếp thực hiện ứng phó, doanh nghiệp cần kiểm soát riêng việc xác thực đầu vào và quyền thực thi.
CertiK đề xuất xác định ranh giới quyền hạn, yêu cầu con người phê duyệt, lưu hồ sơ quyết định và phân định trách nhiệm là những yếu tố cốt lõi của quản trị. Báo cáo cũng khuyến nghị kiểm thử đội đỏ định kỳ. Đây là quy trình rà soát điểm yếu của hệ thống từ góc nhìn của kẻ tấn công.
Báo cáo nhấn mạnh rằng hành vi của AI khi nắm giữ hoặc giao dịch tài sản số cũng cần nằm trong phạm vi kiểm toán. Nếu AI có thể truy cập tài khoản hoặc tài sản, cần lưu lại dữ liệu để xác định AI đã đưa ra quyết định với quyền hạn nào.
Báo cáo đề xuất xây dựng cơ chế giám sát và trách nhiệm tương ứng với năng lực thực thi của AI. Trọng tâm của các khuyến nghị là nguyên tắc kiểm soát phù hợp khi phạm vi ứng dụng được mở rộng.
Bình luận 0