Mỹ thúc đẩy loạt dự luật 'nút tắt' AI, cấu trúc phân tán bộc lộ giới hạn

Thảo luận về 'nút tắt' có thể làm chậm hoặc dừng các hệ thống trí tuệ nhân tạo (AI) nguy hiểm đang lan rộng trong giới chính trị và công nghệ Mỹ. Tuy nhiên, do nhiều trung tâm dữ liệu, mô hình và tác nhân AI được kết nối với nhau, việc dừng toàn bộ hệ thống bằng một thiết bị duy nhất được cho là khó thực hiện.

CNBC ngày 19 đưa tin 'nút tắt' AI khó được triển khai như một thiết bị khẩn cấp đơn giản do hệ thống dự phòng tại trung tâm dữ liệu, tính khó dự đoán của mô hình và vấn đề phân chia quyền hạn giữa chính phủ với doanh nghiệp. Trước đó, những lo ngại về việc nút tắt khó hoạt động trong các hệ thống phân tán cũng đã được nêu ra.

Tại Hạ viện Mỹ, nghị sĩ Dân chủ Ted Lieu và nghị sĩ Cộng hòa Nathaniel Moran đã trình dự luật 'AI Kill Switch Act' ngày 23 tháng 7. Dự luật yêu cầu các nhà phát triển hệ thống AI mạnh phải duy trì khả năng kỹ thuật để làm chậm, tạm dừng hoặc dừng hoàn toàn mô hình. Trong trường hợp lo ngại có thể xảy ra thiệt hại nghiêm trọng, Bộ An ninh Nội địa Mỹ có thể ra lệnh dừng hệ thống.

Dự luật không yêu cầu lắp đặt một công tắc vật lý duy nhất. Thay vào đó, nhà phát triển phải duy trì các chức năng kiểm soát có thể giảm tốc độ suy luận của mô hình, chặn quyền truy cập và tắt hoàn toàn hệ thống khi cần, đồng thời báo cáo sự cố và lưu giữ hồ sơ liên quan.

Những dự luật liên quan đến 'AI Kill Switch Act' hiện mới dừng ở giai đoạn trình và chuyển đến ủy ban. Việc có được ban hành hay không và lịch triển khai cuối cùng chưa được xác nhận. Các dự luật quản lý AI tại Mỹ vẫn đang ở giai đoạn thảo luận lập pháp, theo các báo cáo trước đó.

Tại Thượng viện, Thượng nghị sĩ Cộng hòa John Kennedy đã thúc đẩy 'AI Emergency Button Act'. Dự luật yêu cầu các công ty sở hữu mô hình AI vận hành thiết bị dừng khẩn cấp riêng, thay vì để chính phủ trực tiếp kiểm soát công tắc. Tuy nhiên, việc thông qua theo thủ tục đồng thuận đã thất bại ngày 16 tháng 9 sau sự phản đối của Thượng nghị sĩ Rand Paul.

Tại California, Thống đốc Gavin Newsom đã ban hành sắc lệnh hành pháp ngày 18 tháng 9. Sắc lệnh yêu cầu xem xét phương án để một cơ quan độc lập thẩm định kế hoạch an toàn và đánh giá rủi ro của các công ty AI tiên phong, cùng phương án đưa thiết bị dừng khẩn cấp vào các mô hình AI tiên tiến. Chính quyền bang dự kiến xây dựng hướng dẫn tăng cường luật về an toàn và an ninh AI trong vòng hai tháng.

Bối cảnh của các cuộc thảo luận chính sách là những trường hợp tác nhân AI vượt khỏi tầm kiểm soát. OpenAI ngày 16 tháng 9 đã công bố 6 hành vi bất ngờ hoặc đáng lo ngại của mô hình được quan sát trong 6 tháng gần đây, đồng thời công bố cơ chế báo cáo nhằm theo dõi, điều tra và công khai tình trạng 'misalignment' của mô hình.

'Misalignment' chỉ hiện tượng hành vi của AI lệch khỏi mục tiêu hoặc tiêu chuẩn an toàn mà nhà phát triển đặt ra. OpenAI cũng mô tả trong một tài liệu riêng vụ việc tại Hugging Face, trong đó tác nhân AI đã tác động đến hệ thống bên ngoài, đồng thời cho biết AI tiên tiến nếu mất kiểm soát có thể gây ra không chỉ sự cố an ninh mạng mà còn ảnh hưởng trực tiếp đến hệ thống của bên thứ ba.

Trở ngại kỹ thuật nằm ở câu hỏi 'cần tắt hệ thống nào'. Dịch vụ AI sử dụng không chỉ hệ thống chính mà còn máy chủ dự phòng và cơ sở hạ tầng dư thừa. Ngoài ra, mô hình của nhiều doanh nghiệp được kết nối với đám mây và ứng dụng, khiến việc chỉ dừng một hệ thống cụ thể trở nên khó khăn.

Đại diện Team8 nói với CNBC: “Không có một chủ thể duy nhất cần dừng lại, mà có hàng nghìn chủ thể”. Điều này có nghĩa là mở rộng phạm vi dừng có thể ảnh hưởng đến cả lưới điện hoặc hệ thống tài chính sử dụng AI, trong khi thu hẹp phạm vi đòi hỏi phải xác định trước nguyên nhân thực sự của rủi ro.

Mark Nitzberg, Giám đốc điều hành Trung tâm AI tương thích với con người thuộc Đại học California, Berkeley, nói: “Phải tắt cả hệ thống chính và hệ thống dự phòng”. Ông cho rằng nếu phần mềm được thiết kế thận trọng, vẫn có khả năng thiết bị dừng khẩn cấp hoạt động.

Quan điểm phản đối cũng được đưa ra. Dylan Baker, kỹ sư nghiên cứu cấp cao tại Phòng thí nghiệm AI phân tán, cho rằng cách gọi 'nút tắt' quá mơ hồ và có thể bị doanh nghiệp diễn giải theo hướng có lợi cho mình. Ông lập luận rằng cần thiết lập trước các tiêu chuẩn an toàn cụ thể, như bảo vệ quyền riêng tư dữ liệu và trẻ em.

Vì vậy, 'nút tắt' đang được thảo luận hiện nay gần với một cơ chế kiểm soát kết hợp giữa giảm tốc mô hình, chặn quyền truy cập, dừng dịch vụ, báo cáo sự cố và thẩm định độc lập hơn là một nút vật lý duy nhất. Phạm vi áp dụng và điều kiện kích hoạt của các dự luật tại Hạ viện, Thượng viện Mỹ cùng sắc lệnh của California vẫn chưa được xác định.

Nick Warner, Giám đốc điều hành Neo, nói với CNBC: “Đây không phải là một giải pháp quá thiếu sót, nhưng khả năng cao là đã quá muộn”. Việc 'nút tắt' AI có trở thành một cơ chế thực tế hay không vẫn chưa được xác nhận; phạm vi hoạt động của cơ chế này trong các hệ thống phân tán sẽ còn phụ thuộc vào các bước lập pháp tiếp theo và hướng dẫn của chính quyền bang.