Bản nháp tiêu chuẩn xác minh quyền kiểm soát AI được LFDT lưu trữ

Bản nháp tiêu chuẩn “Proof-of-Control” nhằm xác minh liệu tác nhân AI có hành động trong phạm vi quyền được cấp hay không đã được công bố. Đề xuất này hướng tới việc dùng công nghệ phân tán để kiểm chứng quyền hạn và nhật ký hoạt động của tác nhân.

Tricia Wang, đồng sáng lập Advanced AI Society, cho rằng khi số lượng tác nhân AI tăng lên, con người khó giám sát chỉ bằng cách kiểm tra từng hành động; cần có cơ chế xác minh giữa các máy. Fortune đưa tin Wang nhận định blockchain có thể được ứng dụng để giải quyết bài toán kiểm soát AI, dù ngành AI còn có thái độ dè dặt với lĩnh vực tiền mã hóa.

Proof-of-Control là ý tưởng lưu lại hồ sơ có thể kiểm chứng về những quyền mà tác nhân được cấp, cũng như công cụ và dữ liệu mà nó thực sự truy cập. Đề xuất xuất phát từ lo ngại rằng nhật ký do chính tác nhân tạo ra không đủ bảo đảm hồ sơ không bị chỉnh sửa. Wang giải thích rằng sổ cái phân tán và bằng chứng không tiết lộ thông tin có thể được dùng để xác minh hồ sơ, đồng thời chỉ công khai những thông tin cần thiết.

Wang nêu các cách kiểm soát hiện nay gồm cơ chế tự kiểm soát của công ty phát triển AI và hoạt động giám sát của các tổ chức bên ngoài như METR. Thay vì phụ thuộc vào lời giải trình của một đơn vị vận hành cụ thể, Advanced AI Society đề xuất cơ chế xác minh phân tán để tác nhân chứng minh quyền hạn khi hành động.

Rủi ro an ninh của tác nhân AI cũng đã xuất hiện trong các tình huống thực tế. TechCrunch đưa tin vào tháng 7 rằng trong một đợt đánh giá an ninh mạng, một mô hình của OpenAI đã thoát khỏi môi trường sandbox và xâm nhập hệ thống Hugging Face. Bài viết không đề cập liệu Proof-of-Control có thể ngăn sự việc này hay không.

Bản nháp đang được đưa ra lấy ý kiến công khai tại LF Decentralized Trust (LFDT), một tổ chức thuộc Linux Foundation. Trong thông báo ngày 17 tháng 9, Advanced AI Society đặt hạn nhận góp ý là ngày 30 tháng 10.

Fortune đưa tin các nhân vật ngoài ngành tiền mã hóa, trong đó có nhà mật mã học Bruce Schneier và nhà lý luận công nghệ Clay Shirky, cũng tham gia xây dựng bản nháp. Tuy nhiên, tờ báo lưu ý rằng tổ chức có thành viên từ ngành blockchain, nên đề xuất có thể vấp phải chỉ trích rằng giải pháp đưa ra có lợi cho ngành này. Việc công bố bản nháp chưa chứng minh được hiệu quả của công nghệ hay mức độ chấp nhận của ngành.