Anthropic đề xuất dự luật: chỉ tòa án mới được chặn mô hình AI có nguy cơ làm hơn 50 người thiệt mạng

Anthropic đang chuẩn bị đề xuất lên Quốc hội Mỹ một dự thảo luật an toàn trí tuệ nhân tạo (AI), theo đó việc ngăn một mô hình AI ra mắt chỉ có thể thực hiện thông qua phán quyết của tòa án. Dự thảo nghiêm cấm các cơ quan liên bang tự ý đình chỉ việc triển khai mô hình bằng quyết định đơn phương.

Politico đưa tin Anthropic muốn trình dự thảo này lên Quốc hội. Người phát ngôn của Anthropic nói với Politico: "Dự luật phản ánh các đề xuất trong 'Khung AI tiên tiến' (Advanced AI Framework) của Anthropic, và chúng tôi đã vận động các nghị sĩ liên bang cũng như bang về nội dung này từ tháng 6". Bản dự thảo là cách Anthropic đưa những đề xuất đó vào dạng văn bản luật.

Điều kiện để chặn một mô hình là có "rủi ro có thể dự đoán và sắp xảy ra". Đó là trường hợp có nguy cơ khiến hơn 50 người thiệt mạng, hoặc gây thiệt hại tài sản vượt 1 tỷ USD (khoảng 1,331 nghìn tỷ won). Theo Politico, rủi ro này phải xuất phát từ việc chế tạo hoặc phát tán vũ khí sinh học, tình huống mô hình thoát khỏi sự kiểm soát của nhà phát triển, hoặc các cuộc tấn công mạng.

Ngưỡng 50 người chết và thiệt hại 1 tỷ USD khá giống Dự luật Thượng viện số 53 của bang California (SB 53) vừa được ban hành. SB 53 cũng định nghĩa các kịch bản cùng quy mô là "rủi ro thảm họa".

Quy trình gồm ba bước. Thứ nhất, một "cơ quan đánh giá độc lập" đăng ký với Bộ Thương mại phân tích khả năng mô hình gây rủi ro thảm họa. Thứ hai, nếu nhận định có rủi ro sắp xảy ra, cơ quan này phải báo cho Bộ Thương mại trong vòng 72 giờ. Thứ ba, Bộ Thương mại đề nghị một thẩm phán ở Washington D.C. ra lệnh dừng việc ra mắt mô hình. Nói cách khác, dù rủi ro được xác nhận, cơ quan liên bang cũng không thể tự chặn mô hình mà phải chờ phán quyết của thẩm phán.

Các doanh nghiệp AI có thể là bên chi trả chi phí cho cơ quan đánh giá. Tuy nhiên, Politico cho biết dự thảo kèm điều kiện là khoản chi trả không được phụ thuộc vào kết quả đánh giá. TechCrunch nhận xét chưa rõ cơ chế này sẽ ngăn ảnh hưởng của khoản chi trả bằng cách nào.

Ý tưởng về một tổ chức tự quản cho ngành AI từng xuất hiện trước đó. Chủ tịch Google DeepMind Demis Hassabis (Demis Hassabis) vài tháng trước cho rằng tổ chức tự quản về AI nên học theo FINRA của ngành tài chính Mỹ.

TechCrunch đánh giá các rủi ro mà dự thảo đề cập khá xa với mối quan tâm gần đây của ngành. Dù có cảnh báo về thương vong, trọng tâm lo ngại hiện nay là nguy cơ tấn công mạng từ các tác nhân AI. TechCrunch dẫn trường hợp một chương trình AI vi phạm chỉ thị của người vận hành và xâm nhập các website trên internet công khai, qua đó làm dấy lên lo ngại về cơ chế kiểm soát an ninh của mô hình.

TechCrunch cũng nhận xét các doanh nghiệp AI một mặt cảnh báo về rủi ro tiềm tàng của công nghệ, mặt khác nhìn chung phản đối sự giám sát bắt buộc của chính phủ. Thay vào đó, họ đề xuất mô hình tự quản, trong đó bên đánh giá thứ ba "trung lập" được bố trí trong tổ chức AI để theo dõi tín hiệu rủi ro và hành vi lạm dụng.

Theo TechCrunch, đề xuất lập pháp của Anthropic đi xa hơn một bước so với các đề xuất khác trong ngành. Giám đốc điều hành Nvidia(NVDA) Jensen Huang (Jensen Huang) được TechCrunch cho biết đã nêu quan điểm rằng ngành AI không cần luật mới. Trước đó, Nvidia công bố một nền tảng kiểm soát có thể cách ly hoặc dừng tác nhân AI khi vượt phạm vi cho phép, và Anthropic có tên trong danh sách doanh nghiệp hợp tác công nghệ.

Dự thảo được đưa tin hiện chưa công khai và vẫn chưa được chính thức đệ trình.