7 nguyên tắc AI tài chính có hiệu lực, quy trách nhiệm ban điều hành

Viện Nghiên cứu Tài chính Hàn Quốc (Korea Institute of Finance) mới đây công bố báo cáo “Chương trình nghị sự chính sách xây dựng quản trị AI cho các công ty tài chính”, trong đó nêu rõ cùng với việc mở rộng ứng dụng trí tuệ nhân tạo (AI) tại các công ty tài chính, cần có hệ thống quản lý bao quát trách nhiệm của ban điều hành, bảo mật và bảo vệ người tiêu dùng. Hướng dẫn AI trong lĩnh vực tài chính đã chính thức có hiệu lực từ ngày 22 tháng 6.

Ủy ban Dịch vụ Tài chính Hàn Quốc (Financial Services Commission, FSC) công bố bản sửa đổi hướng dẫn này tại buổi tọa đàm về chuyển đổi AI trong ngành tài chính diễn ra ngày 18 tháng 6. Đây là quy định tự nguyện, được thiết kế để mọi công ty tài chính sử dụng AI, bất kể lĩnh vực hay nghiệp vụ, đều có thể tham chiếu.

Bản sửa đổi đưa ra 7 nguyên tắc gồm △quản trị △tính hợp pháp △vai trò hỗ trợ △độ tin cậy △ổn định tài chính △thiện chí trung thực △tính bảo mật. Nguyên tắc quản trị yêu cầu ban điều hành, bao gồm cả CEO, phải phân chia vai trò và trách nhiệm trong quá trình phát triển, sử dụng AI, đồng thời thiết lập cơ quan ra quyết định, tổ chức chuyên trách và quy định nội bộ.

Nguyên tắc vai trò hỗ trợ quy định ở giai đoạn hiện tại, AI chỉ được xem là công cụ hỗ trợ nghiệp vụ, còn quyết định cuối cùng và trách nhiệm vẫn thuộc về nhân viên, ban điều hành. Mục đích là ngăn tình trạng không rõ trách nhiệm trong các nghiệp vụ có thể ảnh hưởng đến quyết định của người tiêu dùng như tư vấn, đăng ký sản phẩm tài chính hay thanh toán.

Các công ty tài chính hiện đang ứng dụng AI không chỉ cho chatbot chăm sóc khách hàng và nâng cao hiệu quả vận hành nội bộ, mà còn trong phân tích thông tin khách hàng, rủi ro và dữ liệu. Một số công ty cho biết đang vận hành AI agent như công cụ hỗ trợ ra quyết định.

Việc mở rộng ứng dụng ra các dịch vụ bên ngoài vẫn còn vướng các rào cản như quy định tách mạng, quy định dữ liệu, xác thực phương tiện truy cập, xác định trách nhiệm và phân loại ngành nghề. FSC cho biết sẽ chỉnh sửa chế độ đồng ý sử dụng thông tin tín dụng cá nhân liên quan đến huấn luyện AI cùng quy định ẩn danh hóa dữ liệu, đồng thời sẽ xem xét lại tiêu chuẩn hành vi và hệ thống trách nhiệm của AI.

Trong tài liệu công bố ngày 26 tháng 5, FSC đề xuất phương án nới lỏng khẩn cấp quy định tách mạng, chỉ áp dụng cho việc sử dụng AI vì mục đích bảo mật. Theo đó, công ty tài chính có đủ năng lực bảo mật nhất định có thể nộp đơn xin nới lỏng tạm thời, sau khi trải qua đánh giá của chuyên gia, báo cáo lên FSC và được cấp văn bản không xử lý.

Viện An ninh Tài chính Hàn Quốc (Financial Security Institute) cũng đưa ra hệ thống đánh giá để kiểm tra độ an toàn và độ tin cậy của AI trong lĩnh vực tài chính. Bản dự thảo tiêu chuẩn đánh giá gồm △quản lý hiệu năng mô hình △chất lượng dữ liệu △tính công bằng và thiên lệch △khả năng giải thích △rủi ro bảo mật đặc thù của AI △kiểm định mô hình và dữ liệu từ bên ngoài △bảo mật chuỗi cung ứng.

Các công ty tài chính phải tự quy định trong nội bộ về tiêu chuẩn dừng sử dụng dữ liệu và mô hình AI, cũng như quy trình giải thích khi người tiêu dùng khiếu nại. Quản trị AI giờ đây không còn là vấn đề riêng của bộ phận kỹ thuật mà đã trở thành đối tượng quản lý của hội đồng quản trị và ban điều hành.

FSC cho biết từ nửa cuối năm nay sẽ xem xét các nội dung cần cải thiện về mặt thể chế, phương án quản lý rủi ro khi áp dụng AI, cùng phương án vận hành dự án thí điểm để thử nghiệm AI agent. Viện An ninh Tài chính Hàn Quốc cũng dự kiến tiếp nhận đăng ký từ các công ty tài chính để thực hiện đánh giá thí điểm về độ an toàn và độ tin cậy của AI trong nửa cuối năm nay.