Mỹ đề xuất duyệt trước một số AI, Voorhees cảnh báo “đừng trao chiếc nhẫn cho Sauron”

Một dự luật tại Mỹ đề xuất yêu cầu chính phủ liên bang phê duyệt trước khi phát hành một số hệ thống trí tuệ nhân tạo (AI) tiên tiến. Trong khi đó, một ứng viên tranh cử Thượng viện muốn trao quyền chặn công bố mô hình cho cơ quan an toàn AI độc lập.

Ngày 12, Erik Voorhees, nhà sáng lập kiêm CEO của Venice, viết trên X: “Đừng trao chiếc nhẫn cho Sauron”. CryptoSlate cũng đưa tin về phát biểu này.

Voorhees cho rằng tính minh bạch của mã nguồn mở và việc phân tán quyền lực có thể giúp bảo đảm an toàn cho AI. Ông cũng lập luận rằng chế độ cấp phép có thể hạn chế việc công bố, phân phối và xung đột với nguyên tắc bình đẳng.

Một số ý kiến khác cảnh báo về rủi ro của AI và ủng hộ các biện pháp bảo vệ cùng sự tham gia của chính phủ. Bill Gates, đồng sáng lập Microsoft (MSFT), từng cảnh báo AI có thể trở nên đủ mạnh để gây ra một sự kiện khiến 1 tỷ người thiệt mạng. TokenPost trước đó đã đưa tin về phát biểu này.

Voorhees từng hoạt động trong lĩnh vực Bitcoin (BTC), nhưng S.5493 và cương lĩnh tranh cử của Abdul El-Sayed không có điều khoản trực tiếp quản lý tiền mã hóa hoặc blockchain.

Dự luật S.5493 của Thượng nghị sĩ Mỹ Bernie Sanders, được gọi là Đạo luật Cấm trí tuệ nhân tạo siêu cấp (Artificial Superintelligence Ban Act), định nghĩa “AI tiên tiến” là hệ thống sử dụng ít nhất 10^25 phép tính số nguyên hoặc dấu phẩy động để huấn luyện. Tiêu chí này được nêu trong văn bản dự luật.

Dự luật yêu cầu phải được Bộ AI mới phê duyệt trước khi triển khai, công bố, nhập khẩu hoặc chuyển giao các hệ thống thuộc diện này. Quy định không đồng nghĩa mọi dịch vụ AI đều phải xin phép trước.

Nếu kiểm tra trước khi công bố phát hiện đặc tính có thể gây nguy hiểm cho công chúng, bộ trưởng phải hoãn phê duyệt. Theo thiết kế này, bộ trưởng nắm quyền quyết định việc công bố.

Dự luật cũng quy định tổng thống đề cử bộ trưởng và Thượng viện phê chuẩn, thành lập hội đồng cố vấn khoa học và công nghệ, đồng thời hạn chế xung đột lợi ích đối với nhân viên bộ. Tuy nhiên, bộ trưởng là người lựa chọn các thành viên hội đồng.

Trong thông cáo ngày 3 tháng 9, Sanders nói: “Không nên giao phó tương lai cho một nhóm nhỏ các tập đoàn công nghệ khổng lồ”. Ông cho rằng cần có sự giám sát của công chúng để giảm rủi ro từ việc phát triển AI tiên tiến.

Ngày 13 tháng 10, Abdul El-Sayed, ứng viên tranh cử Thượng viện Mỹ tại bang Michigan, đề xuất trong cương lĩnh “AI Under Control” trao cho một cơ quan an toàn AI độc lập quyền kiểm tra phòng thí nghiệm và chặn việc công bố mô hình. Cương lĩnh cũng đề xuất quyền tạm dừng phát triển và tắt hệ thống.

Đề xuất của El-Sayed nêu việc lựa chọn hội đồng khoa học từ bên ngoài cơ quan và công khai các biện pháp ngoại lệ. Cương lĩnh cũng phản đối hoạt động giám sát không có lệnh khám xét.

Hai phương án đều hướng tới việc kiểm soát AI trước khi công bố, nhưng phân bổ quyền hạn khác nhau. S.5493 đặt trọng tâm vào quyền phê duyệt và hoãn của bộ trưởng trong một bộ mới, còn cương lĩnh của El-Sayed đề xuất trao cho cơ quan độc lập quyền kiểm tra, tạm dừng và chấm dứt hoạt động hệ thống.

S.5493 được trình lên Thượng viện Mỹ ngày 23 tháng 9 và chuyển tới Ủy ban Thương mại, Khoa học và Giao thông. Đề xuất của El-Sayed được đưa ra dưới dạng cương lĩnh tranh cử.