Ro Khanna dự kiến trình dự luật cấm AI tự cải thiện đệ quy

Hạ nghị sĩ đảng Dân chủ Mỹ Ro Khanna dự kiến trình dự luật cấm trí tuệ nhân tạo (AI) tự cải thiện đệ quy cho đến khi các biện pháp bảo vệ cấp liên bang được thiết lập.

CNBC đưa tin lúc 6 giờ 43 phút sáng ngày 29 theo giờ Hàn Quốc rằng ông Khanna dự kiến trình dự luật có tên 'Human Control Over AI Act'.

Theo CNBC, dự luật sẽ quản lý việc phát triển các mô hình AI tiếp theo cũng như khả năng tự thay đổi các mục tiêu cốt lõi, cơ chế cách ly và hệ thống kiểm soát tắt máy. Dự luật đề xuất cấm phát triển và triển khai các mô hình có những chức năng này cho đến khi có tiêu chuẩn an toàn liên bang và sự phê duyệt của cơ quan phụ trách.

Tính đến ngày 29 tháng 9 theo giờ Hàn Quốc, bản dự luật và hồ sơ đăng ký chính thức tại Quốc hội Mỹ chưa được xác nhận. Số hiệu dự luật, các đồng bảo trợ, ủy ban phụ trách và thời điểm trình chính thức cũng chưa được công bố.

Đề xuất của ông Khanna còn bao gồm việc thành lập một cơ quan liên bang riêng để giám sát các công ty phát triển AI tiên tiến. Cơ quan này sẽ phụ trách cấp phép đào tạo và triển khai mô hình AI, kiểm toán các mô hình tiên phong, kiểm tra an toàn liên tục và xây dựng tiêu chuẩn kiểm soát của con người.

OpenAI, Anthropic, Google DeepMind và xAI được nêu là những đối tượng có thể chịu tác động. Đề xuất cũng yêu cầu bố trí kiểm toán viên độc lập tại từng phòng thí nghiệm AI tiên phong và báo cáo trực tiếp kết quả kiểm toán cho cơ quan liên bang.

Tiêu chuẩn về môi trường sandbox, hệ thống air gap tách khỏi internet, công tắc khẩn cấp để tắt hệ thống và cơ chế ngăn AI tiếp cận các hệ thống bên ngoài cũng sẽ được xây dựng. Dự luật còn bao gồm điều khoản xử lý việc triển khai mô hình AI khiến các nhóm dân sự bị hủy diệt là 'tội ác chống lại loài người'.

Đề xuất cũng đưa ra trách nhiệm hình sự đối với nhân viên doanh nghiệp cố ý vô hiệu hóa các biện pháp bảo vệ, nhật ký hoặc hệ thống cách ly, cũng như triển khai hệ thống chưa được phê duyệt. Các công ty AI có thể phải mua bảo hiểm trách nhiệm bồi thường trước khi phát hành mô hình.

Hợp tác quốc tế và kiểm soát chất bán dẫn cũng nằm trong dự luật. Theo đó, chính quyền Mỹ sẽ thúc đẩy các thỏa thuận quốc tế có tính ràng buộc và kiểm soát xuất khẩu có mục tiêu nhằm hạn chế hoạt động phát triển AI nguy hiểm của các đối thủ như Trung Quốc, đồng thời giám sát và kiểm soát việc sử dụng chất bán dẫn cho đào tạo AI tiên tiến.

Tự cải thiện đệ quy là hiện tượng AI giảm dần sự can thiệp trực tiếp của con người trong khi tự viết mã, tiến hành thí nghiệm và phát triển các mô hình tiếp theo. Anthropic cho biết trong tài liệu chính thức rằng AI chưa đạt đến mức tự cải thiện đệ quy hoàn toàn, nhưng giai đoạn AI thiết kế và phát triển mô hình tiếp theo có thể đến sớm hơn dự kiến.

Anthropic cho biết vai trò của AI trong viết mã và tiến hành thí nghiệm đang tăng lên, nhưng con người vẫn chịu trách nhiệm xác định mục tiêu và lựa chọn vấn đề. Điều này cho thấy tự động hóa nghiên cứu AI ngày càng mở rộng nhưng vẫn khác với tự cải thiện hoàn toàn tự chủ.

Đề xuất mà ông Khanna dự kiến trình đặt trọng tâm vào kiểm soát trước khi triển khai, mạnh hơn một số dự luật an toàn AI khác đang được Quốc hội thảo luận. FRONTIER Act lưỡng đảng do Hạ nghị sĩ đảng Dân chủ Mỹ Lori Trahan và Hạ nghị sĩ đảng Cộng hòa Mỹ Jay Obernolte công bố yêu cầu hồ sơ mô hình, hệ thống quản lý rủi ro, kiểm toán độc lập và báo cáo sự cố, nhưng không cấm hoạt động tự cải thiện đệ quy.

Các đồng bảo trợ FRONTIER Act cho rằng đánh giá độc lập và quy định minh bạch có thể giúp đạt được cả an toàn AI lẫn đổi mới. Ngược lại, tổ chức phi lợi nhuận Mỹ Americans for Responsible Innovation nhận định cần sửa đổi thêm quyền đình chỉ triển khai của chính phủ và cơ cấu ra quyết định trong giai đoạn triển khai ban đầu.

TokenPost từng đưa tin OpenAI đề xuất xây dựng tiêu chuẩn an toàn AI quốc tế, bao gồm đo lường khả năng tự cải thiện đệ quy, báo cáo sự cố AI và giám sát của con người. Cách tiếp cận này tập trung đồng bộ hóa tiêu chuẩn đánh giá và báo cáo giữa các quốc gia, tương đồng với định hướng kiểm soát trước khi triển khai trong đề xuất của ông Khanna.

Đề xuất không đưa ra quy định trực tiếp đối với thị trường tài sản số trong nước hoặc giá của bất kỳ token nào. Các điều khoản kiểm soát chất bán dẫn và hạ tầng AI có thể liên quan gián tiếp đến nhu cầu tính toán AI, nhưng không có điều khoản riêng về tài sản số hay blockchain.

CNBC đưa tin việc bỏ phiếu tại Hạ viện có thể được lùi đến sau cuộc bầu cử giữa nhiệm kỳ, nhưng lịch xử lý chính thức chưa được xác định. Sau khi việc trình dự luật và bản văn chính thức được công bố, định nghĩa pháp lý cũng như phạm vi áp dụng đối với tự cải thiện đệ quy sẽ được làm rõ hơn.