Hội đồng thành phố New York chất vấn OpenAI, Google, Meta và Anthropic về rủi ro AI

Hội đồng thành phố New York đã chất vấn đại diện OpenAI, Google, Meta và Anthropic về nguy cơ AI gây ra thảm họa cùng các biện pháp an toàn. Các đề xuất luật về kiểm định độc lập và bồi thường thiệt hại cũng được đưa ra thảo luận.

Ngày 5 tháng 10, Hội đồng tổ chức phiên điều trần “Committee of the Whole” với sự tham gia của toàn thể nghị viên. Theo thông báo chính thức, khoảng 40 nghị viên tham dự. Morgan Dwyer của OpenAI, Shane Cahill của Meta, Alice Friend của Google và Logan Graham của Anthropic được ghi nhận là nhân chứng sau khi tuyên thệ. Chủ tịch Hội đồng Julie Menin yêu cầu mỗi công ty đưa ra số liệu về những rủi ro AI có thể gây ra trong kịch bản thảm họa nghiêm trọng nhất.

Phiên điều trần tập trung vào cách gắn các giải thích về rủi ro của doanh nghiệp với quy định trách nhiệm pháp lý. Đề xuất luật do Hội đồng công bố trước đó bao gồm kiểm định AI bởi bên thứ ba, cơ chế để con người có thể ngắt hệ thống, quyền khởi kiện dân sự khi việc vô hiệu hóa các biện pháp kiểm soát an toàn gây ra thiệt hại có thể dự đoán trước, và nghĩa vụ báo cáo sự cố an toàn AI. Đây vẫn là những đề xuất đang được thảo luận, chưa phải quy định có hiệu lực hay tiêu chuẩn trách nhiệm đã được thông qua.

Đề xuất Introduction 2602 về kiểm định độc lập nêu mức phạt 25.000 USD cho mỗi trường hợp bán hoặc phân phối hệ thống AI chưa qua kiểm định. Khoản phạt được đề xuất chưa được áp dụng. Thông báo công khai của Hội đồng cũng chưa xác nhận dự luật đã được đưa ra biểu quyết hay thông qua.

Thông báo chính thức của Hội đồng ghi lại phần trình bày về biện pháp an toàn của các đại diện doanh nghiệp và cảnh báo rủi ro từ Jacob Coxon, cựu nghiên cứu viên của Anthropic. Coxon làm chứng rằng nếu lộ trình phát triển hiện nay tiếp diễn, khả năng nhân loại mất quyền kiểm soát AI và đi đến tuyệt chủng sẽ cao hơn. Đây là đánh giá rủi ro của Coxon, không phải con số được đo lường hay xác nhận tại phiên điều trần.

Phiên điều trần đặt các cam kết an toàn tự nguyện của doanh nghiệp bên cạnh những tiêu chuẩn về kiểm định, báo cáo và bồi thường có thể được quy định bằng luật. Phạm vi áp dụng và quy tắc trách nhiệm của các đề xuất sẽ được xem xét trong quá trình lập pháp.