California thúc đẩy hoàn tất khuyến nghị tăng cường luật an toàn AI trong hai tháng

California đã ban hành sắc lệnh hành pháp nhằm ứng phó với các rủi ro tiềm ẩn của trí tuệ nhân tạo (AI), đồng thời yêu cầu một nhóm chuyên gia xây dựng khuyến nghị tăng cường luật an toàn và bảo mật AI của bang trong vòng hai tháng.

Thống đốc California Gavin Newsom (Gavin Newsom) công bố sắc lệnh ngày 18 (giờ địa phương), đồng thời nói rằng việc chính phủ liên bang chưa xây dựng được cơ chế giám sát và trách nhiệm AI có ý nghĩa “phải khiến mọi người Mỹ lo ngại”. Ông cho biết sẽ thúc đẩy nhanh cơ chế giám sát AI “thực chất và có trách nhiệm trước khi quá muộn”. CNBC đưa tin về nội dung này.

Theo sắc lệnh, nhóm chuyên gia sẽ soạn khuyến nghị nhằm tăng cường luật an toàn và bảo mật AI của California. Khuyến nghị có thể bao gồm yêu cầu các công ty AI tiên tiến xây dựng kế hoạch an toàn với một bên thứ ba độc lập, cũng như yêu cầu doanh nghiệp trang bị 'công tắc ngắt' để dừng mô hình AI trong tình huống khẩn cấp.

Động thái này diễn ra trong bối cảnh chính phủ liên bang và Quốc hội Mỹ chậm đưa ra phản ứng. CNBC đưa tin Quốc hội có thể khó thúc đẩy các đạo luật có ý nghĩa về rủi ro AI trước cuộc bầu cử giữa nhiệm kỳ năm 2026.

Tổng thống Mỹ Donald Trump từng gọi những lo ngại về an toàn AI là 'trò lừa đảo' và giữ khoảng cách với các yêu cầu siết chặt quy định. Trong khi đó, các nhân vật thuộc đảng Dân chủ tiếp tục kêu gọi xây dựng hàng rào an toàn mạnh hơn để theo kịp tốc độ phát triển nhanh của công nghệ AI.

Thảo luận về an toàn cũng lan rộng trong nội bộ các công ty phát triển AI. Sau khi một nhà nghiên cứu của Anthropic rời công ty vào đầu tháng này và cảnh báo AI có thể đe dọa sự tồn vong của nhân loại, các cuộc tranh luận tại Washington về rủi ro AI và cơ chế quản lý đã gia tăng trở lại.

Thống đốc Newsom cùng một số nhân vật được nhắc đến như ứng viên tổng thống đảng Dân chủ năm 2028 đang kêu gọi tăng cường giám sát AI ở cấp liên bang. Tuy nhiên, ông chưa chính thức tuyên bố tranh cử và từng cho biết đang cân nhắc khả năng này.

California gần đây cũng củng cố khung quản lý AI. Thống đốc Newsom cho biết ông đã ký một dự luật vào đầu tháng này nhằm thiết lập khuôn khổ hoạt động cho các tổ chức kiểm toán AI bên thứ ba. Văn phòng thống đốc California cho biết biện pháp này nhằm nâng cao tính minh bạch và trách nhiệm của các hệ thống AI.

Kiểm toán bên thứ ba là phương thức trong đó một tổ chức độc lập kiểm tra độ an toàn và mức độ tuân thủ pháp luật, thay vì để công ty phát triển AI chỉ tự đánh giá. Sắc lệnh mới tiếp tục hướng thảo luận quản lý hiện nay khi có thể mở rộng cơ chế đánh giá bên ngoài sang kế hoạch an toàn và quy trình ứng phó khẩn cấp của các công ty AI tiên tiến.

Thống đốc Newsom cho rằng khung quản lý của California nên trở thành tiêu chuẩn trên toàn nước Mỹ. Ông nói: “California đã tạo ra một mô hình cấp quốc gia và chính sách của chúng ta nên trở thành nền tảng tiêu chuẩn trên toàn quốc”.

Sắc lệnh hiện mới dừng ở giai đoạn xây dựng khuyến nghị chuyên gia. Để dẫn đến sửa đổi luật hoặc nghĩa vụ đối với doanh nghiệp, California sẽ cần tiến hành thêm các bước lập pháp và hành chính sau khi hoàn tất khuyến nghị.

Nhiệm kỳ của Thống đốc Newsom kết thúc vào ngày 4 tháng 1 năm 2027. California dự kiến hoàn tất khuyến nghị tăng cường luật an toàn và bảo mật AI trong vòng hai tháng.