AI cần 'nút tắt khẩn cấp', dự luật H.R.9917 mới được trình

Andrew Yang, nhà sáng lập Noble Mobile, cho rằng các mô hình trí tuệ nhân tạo (AI) hiệu năng cao cần chịu trách nhiệm pháp lý, có thời gian chờ trước khi ra mắt và được trang bị 'nút tắt khẩn cấp' để dừng hoạt động trong tình huống nguy hiểm.

Andrew Yang (Andrew Yang), nhà sáng lập Noble Mobile, kêu gọi Quốc hội Mỹ tăng cường quản lý trong cuộc phỏng vấn với Decrypt được công bố ngày 17. Ông nói: "Nỗi sợ là có thật, mối lo ngại là có thật và các biện pháp cần thiết cũng là có thật". Yang cho rằng các công ty AI không nên được miễn quản lý chỉ vì lý do cần cạnh tranh với Trung Quốc.

Trong một cuộc phỏng vấn với CNN, Yang cũng nhận định việc các công ty AI tự quản là chưa đủ. Theo ông, cần có cơ chế quản lý bên ngoài để ứng phó với nguy cơ AI bị lạm dụng nhằm vào lưới điện, hệ thống tài chính và an ninh quốc gia.

Ông nói: "Mỹ có thể cạnh tranh với Trung Quốc đồng thời bảo vệ tính mạng và lợi ích của người dân Mỹ", đồng thời đề xuất các biện pháp an toàn như nút tắt khẩn cấp. Đây là công cụ kiểm soát kỹ thuật cho phép hạn chế, tạm dừng hoặc chấm dứt hoạt động của hệ thống AI trong tình huống nguy hiểm.

Trọng tâm không phải là trao quyền dừng toàn bộ AI cùng lúc, mà là bảo đảm con người có mức kiểm soát tối thiểu đối với các mô hình rủi ro cao. Việc có thể đồng thời dừng AI vận hành trên các máy chủ phân tán và các tác nhân tự động vẫn là vấn đề riêng cần được xem xét.

Quốc hội Mỹ cũng đã tiếp nhận một dự luật liên quan. Hạ nghị sĩ Ted Lieu (Ted Lieu) và Hạ nghị sĩ Nathaniel Moran (Nathaniel Moran) trình Dự luật Nút tắt AI (AI Kill Switch Act) vào ngày 23 tháng 7.

Dự luật H.R.9917 yêu cầu các nhà phát triển AI hiệu năng cao thuộc diện nhất định phải duy trì năng lực kỹ thuật để hạn chế, tạm dừng hoặc chấm dứt hoạt động của mô hình. Dự luật cũng bao gồm điều khoản cho phép Bộ trưởng An ninh Nội địa ra lệnh áp dụng biện pháp khẩn cấp đối với các hệ thống AI có thể gây thiệt hại thảm khốc.

H.R.9917 hiện mới ở giai đoạn trình và đã được chuyển tới Ủy ban An ninh Nội địa Hạ viện. Dự luật chưa được thông qua thành luật và cũng chưa có lịch triển khai.

Yang cũng cho biết ông từng nghe người đứng đầu một phòng thí nghiệm AI, người không được nêu tên, giải thích rằng một bot AI tự động đã để lại mã tự sao chép trên internet. Ông đồng thời cho rằng một số công ty AI cần xây dựng 'internet tổng hợp' để phục vụ việc huấn luyện mô hình.

Tuy nhiên, tên phòng thí nghiệm và người đứng đầu không được công bố. Thông tin mã tự sao chép đã lan rộng trên toàn internet cũng chưa được xác nhận độc lập.

Đề xuất về nút tắt khẩn cấp vấp phải nhiều phản biện. Khi mô hình AI hoạt động phân tán trên nhiều máy chủ và tác nhân tự động, việc dừng toàn bộ hệ thống cùng lúc có thể khó thực hiện. Ngoài ra, cũng cần xác định tiêu chí để chính phủ kích hoạt biện pháp khẩn cấp.

Cuộc phỏng vấn với CNN cũng đề cập việc chính phủ Anh đã bác bỏ ý tưởng tương tự, đồng thời cho rằng chỉ chặn quyền truy cập vào mô hình AI là chưa đủ để ngăn chặn rủi ro. Ở chiều ngược lại, một số ý kiến cho rằng dù còn giới hạn kỹ thuật, vẫn cần duy trì cơ chế kiểm soát tối thiểu để con người có thể cố gắng dừng hệ thống.

Thảo luận lần này nối tiếp bài đưa tin trước đây của TokenPost về việc Andrew Yang yêu cầu các công ty AI áp dụng nút tắt khẩn cấp và quy định trách nhiệm. Tương tự bài trước, việc dự luật có được thông qua hay không và phạm vi áp dụng thực tế vẫn phụ thuộc vào quy trình tại Quốc hội Mỹ.

Khả năng nút tắt khẩn cấp hoạt động trong các hệ thống AI phân tán cũng được thảo luận trong bài phân tích liên quan của TokenPost. Bước tiếp theo của H.R.9917 là được Ủy ban An ninh Nội địa Hạ viện xem xét.