Anthropic: Thiệt hại tiềm tàng từ sự cố AI được ước tính 2.000–4.000 tỷ USD

Trong bối cảnh định giá doanh nghiệp của Anthropic được nhắc đến ở mức 2.000 tỷ USD, việc tính đến thiệt hại tiềm tàng do sự cố AI và trách nhiệm bồi thường của doanh nghiệp trong định giá khi niêm yết đang trở thành vấn đề được quan tâm. Con số thiệt hại 2.000–4.000 tỷ USD không phải tổn thất thực tế hay dự báo đã được kiểm chứng.

Bloomberg đưa tin các nhà đầu tư tham gia đợt phát hành cổ phiếu lần đầu ra công chúng (IPO) của Anthropic gặp khó khăn khi đánh giá rủi ro tiềm tàng của AI. Theo bài báo, rất khó xác định quy mô thiệt hại và bên chịu trách nhiệm; kỳ vọng rằng chủ thể khác sẽ gánh chi phí sự cố cũng khiến việc nhà đầu tư có phản ánh rủi ro vào định giá hay không vẫn chưa rõ.

Sam Lessin, đối tác tại Slow Ventures, nói: “Các công ty AI cần 확보 nguồn vốn đáng kể để chuẩn bị cho những sự cố trong tương lai.” Ông đề xuất chính phủ Mỹ yêu cầu các doanh nghiệp phát triển AI gửi riêng 1.000 tỷ USD. Ý tưởng này nhằm áp dụng cho ngành AI quy định yêu cầu ngân hàng duy trì vốn sau khủng hoảng tài chính.

Trong cuộc phỏng vấn với Bloomberg, Lessin ước tính thiệt hại tiềm tàng mà các công ty AI có thể gây ra cho xã hội ở mức 2.000–4.000 tỷ USD (khoảng 2.686–5.372 tỷ USD theo quy đổi trong bài gốc). Đây là con số nhằm minh họa rủi ro cực đoan, không phải thiệt hại đã xảy ra hay dự báo tổn thất được kiểm chứng. Cũng có ý kiến cho rằng giá trị thực của doanh nghiệp có thể âm nếu tính đến những kịch bản xấu nhất, chẳng hạn như sự tuyệt chủng của nhân loại.

Một số phân tích cho rằng các biện pháp an toàn AI có thể làm tăng chi phí, đồng thời củng cố niềm tin của khách hàng và năng lực cạnh tranh. Harrison Rolphs, nhà nghiên cứu cấp cao tại PitchBook, nhận định các biện pháp này có thể nâng cao niềm tin của khách hàng và trở thành rào cản gia nhập nếu đối thủ không đáp ứng cùng tiêu chuẩn.

Tiêu chuẩn về bảo hiểm và trách nhiệm pháp lý vẫn chưa rõ ràng. Ngành bảo hiểm đang phát triển các sản phẩm dành cho doanh nghiệp AI, nhưng thiếu lịch sử sự cố và án lệ bồi thường khiến việc định lượng rủi ro gặp khó khăn. Joe Ziolkowski, CEO của Realm Insurance, cho biết vấn đề trách nhiệm khi xảy ra sự cố sẽ trở nên quan trọng hơn khi AI tự đưa ra quyết định và tương tác với các hệ thống AI khác.

Phản ứng xã hội và quy định sau sự cố cũng là những rủi ro ngành đang xem xét. Axios đưa tin các đại diện của những công ty AI lớn, trong đó có OpenAI và Anthropic, đang thảo luận về các kịch bản ứng phó sau một sự cố quy mô lớn. Các tình huống giả định bao gồm một cuộc tấn công mạng lớn làm gián đoạn dịch vụ tài chính và kết nối internet, đồng thời gây ảnh hưởng đến việc cung cấp điện và nước.

Ngày 9, Axios đưa tin các đại diện trong ngành dự đoán một sự cố nghiêm trọng có thể xảy ra trong 6–12 tháng tới. Đây là dự đoán của các đại diện, không có nghĩa sự cố thực tế đã được xác nhận sẽ xảy ra. Những phương án quản lý được nêu ra gồm cấm phát triển siêu trí tuệ, tạm dừng phát triển AI tiên tiến và yêu cầu trang bị cơ chế tắt khẩn cấp cho các hệ thống hiệu năng cao.