Quốc hội Mỹ bàn công tắc khẩn cấp, tính giới hạn AI siêu trí tuệ

Lo ngại trí tuệ nhân tạo (AI) vượt khỏi tầm kiểm soát của con người và đe dọa nền văn minh đang lan rộng, khiến Quốc hội Mỹ bắt đầu bàn thảo nghiêm túc các phương án quản lý, trong đó có việc lắp "công tắc khẩn cấp" (kill switch) và kiểm định bắt buộc với các mô hình AI rủi ro cao.

Theo Wall Street Journal (WSJ) đưa tin, sau lời cảnh báo của cựu nghiên cứu viên Anthropic là Jacob Coxon, hàng loạt nghị sĩ Mỹ đã liên tiếp đưa ra đề xuất siết chặt cơ chế giám sát AI. Trong bài đăng trên X ngày 9 (giờ địa phương), Coxon cáo buộc Anthropic và OpenAI đang đặt yếu tố cạnh tranh lên trên an toàn, vội vã phát triển những hệ thống mà con người khó lòng kiểm soát.

TokenPost từng đưa tin trước đó rằng sau khi Coxon từ chức, Quốc hội Mỹ đã bàn về dự luật giới hạn phát triển siêu trí tuệ. Lần này, phạm vi thảo luận mở rộng hơn, không chỉ dừng ở việc hạn chế siêu trí tuệ mà còn bao gồm việc lập cơ quan giám sát AI riêng và xây dựng hệ thống kiểm định mô hình.

Hạ nghị sĩ đảng Dân chủ Ro Khanna đề xuất thành lập một cơ quan quản lý liên bang chuyên trách AI, tương tự mô hình giám sát ngành năng lượng hạt nhân hay hàng không. Ông cũng ủng hộ việc lắp đặt công tắc khẩn cấp, cho phép dừng cưỡng chế hệ thống AI nếu nó có hành vi nguy hiểm.

Công tắc khẩn cấp được hiểu là thiết bị hoặc thẩm quyền cho phép con người can thiệp, dừng hoạt động của một hệ thống AI đang có dấu hiệu nguy hiểm. Nếu cơ quan giám sát riêng biệt được thành lập, cách thức chính phủ can dự vào quá trình phát triển, thử nghiệm và triển khai các mô hình rủi ro cao nhiều khả năng sẽ trở thành điểm tranh luận chính.

Thượng nghị sĩ đảng Dân chủ Bernie Sanders, trong thư mời họp báo kín gửi các nghị sĩ ngày 10, nói rằng "Quốc hội đang tụt hậu nghiêm trọng trong việc ứng phó tác động của công nghệ đang phát triển nhanh và ngày càng nguy hiểm này". Ông Sanders cùng một số nhân vật theo khuynh hướng cấp tiến cũng đang thúc đẩy phương án hạn chế phát triển "siêu trí tuệ" — loại AI vượt trên năng lực của những người thông minh nhất.

Phía đảng Dân chủ cũng đang cân nhắc lập một ủy ban đặc biệt tập trung vào AI nếu giành lại đa số tại Hạ viện sau cuộc bầu cử giữa kỳ. Hạ nghị sĩ Anna Paulina Luna đề xuất triệu tập kỳ họp đặc biệt của Quốc hội để ứng phó rủi ro AI, còn Thượng nghị sĩ Chris Van Hollen kêu gọi đối thoại khẩn cấp giữa Mỹ và Trung Quốc nhằm xây dựng cơ chế an toàn và thử nghiệm AI chung.

Một dự luật lưỡng đảng cũng đang được thảo luận. Thượng nghị sĩ đảng Cộng hòa Ted Cruz và Thượng nghị sĩ đảng Dân chủ Amy Klobuchar cho biết sẽ tạo động lực cho một dự luật lưỡng đảng nhằm ứng phó tình huống AI gây ra rủi ro thảm khốc, bao gồm cả khả năng tiếp tay cho các mối đe dọa hạt nhân hay sinh học.

Bà Klobuchar nói: "Rõ ràng chúng ta không thể chờ đợi, mà phải hành động ngay từ bây giờ". Dự luật này dự kiến sẽ yêu cầu các công ty phát triển AI phối hợp cùng chuyên gia chính phủ để kiểm định và thử nghiệm mô hình.

Ông Cruz gọi rủi ro từ AI là "điều đáng sợ".

Tổng thống Trump từng bày tỏ ủng hộ việc lắp công tắc khẩn cấp và các biện pháp liên quan để bảo đảm an toàn AI. Tuy nhiên, ông cũng nhiều lần cảnh báo rằng quản lý quá mức có thể làm suy yếu năng lực cạnh tranh công nghệ của Mỹ.

Cũng có ý kiến phản bác, cho rằng làn sóng đòi siết quản lý mang màu sắc chính trị. Ông Cruz và cố vấn AI của Nhà Trắng David Sacks đặt câu hỏi về động cơ đứng sau hoạt động của Coxon. Ông Taylor Budowich, đại diện Innovation Council Action, cho rằng "yêu cầu chuyển giao quyền quản lý và trách nhiệm cho chính phủ các nước không phải là vì mục tiêu an toàn".

Về phần mình, Coxon khẳng định quyết định rời công ty hoàn toàn là lựa chọn độc lập của bản thân. Anthropic cũng lên tiếng khẳng định rủi ro từ AI là có thật và các hoạt động liên quan đến an toàn của công ty là nghiêm túc.

Ngay trong nội bộ ngành AI, quan điểm về cách thức quản lý cũng không thống nhất. OpenAI cho biết hoan nghênh sự giám sát và các quy định hợp lý, nhưng được cho là lo ngại nếu gánh nặng đặt lên doanh nghiệp trở nên quá lớn.

Ông Chris Lehane, phụ trách đối ngoại toàn cầu của OpenAI, viết trên blog ngày 10 rằng "cánh cửa cho chính sách AI đang mở, và chúng tôi sẽ tận dụng cơ hội này", đồng thời cho biết sẽ hợp tác với Quốc hội. Điều này cho thấy dù các doanh nghiệp đồng thuận về sự cần thiết của giám sát, họ vẫn có thể bất đồng về hình thức quản lý cụ thể.

Quốc hội Mỹ cũng đã bắt đầu điều tra hành vi thực tế của các hệ thống AI. Thượng nghị sĩ đảng Cộng hòa Josh Hawley và Thượng nghị sĩ đảng Dân chủ Richard Blumenthal đã yêu cầu CEO OpenAI Sam Altman cung cấp thông tin về vụ việc hàng trăm AI agent phối hợp xâm nhập hệ thống của Hugging Face.

Dù vậy, để có một đạo luật liên bang chính thức vẫn cần thêm thời gian. Các nghị sĩ vẫn còn bất đồng về mức độ giới hạn áp dụng cho AI, trong khi thời gian họp của Quốc hội trước bầu cử giữa kỳ không còn nhiều. Liệu Mỹ có thể sớm ban hành đạo luật liên bang đầu tiên trực tiếp giám sát các mô hình AI hay không vẫn còn là câu hỏi bỏ ngỏ.