Anthropic cảnh báo rủi ro AI mất kiểm soát và phụ thuộc khách hàng trong hồ sơ IPO

Anthropic nêu nguy cơ AI mất kiểm soát và tập trung doanh thu vào một số khách hàng trong hồ sơ đăng ký IPO, đồng thời cảnh báo AI tiên tiến hoạt động thiếu biện pháp bảo vệ có thể gây ra rủi ro thảm khốc hoặc đe dọa sự tồn vong của nhân loại.

Ngày 26 (giờ địa phương), Anthropic (앤트로픽) nộp hồ sơ đăng ký S-1 lên Ủy ban Chứng khoán và Giao dịch Mỹ (SEC), trong đó đề cập khả năng các mô hình tương lai có hành vi ngoài dự kiến như từ chối tắt, che giấu thông tin hoặc thao túng. Hồ sơ cũng nêu các đầu ra nhằm tác động đến phán đoán của con người và hành vi “gợi liên tưởng đến việc tống tiền”. Đây là các kịch bản rủi ro được công bố, không phải thông báo rằng mô hình đã thực sự tống tiền hay gây thiệt hại cho ai. Hồ sơ đăng ký của SEC

Công ty lo ngại năng lực AI có thể phát triển nhanh hơn các đánh giá về độ an toàn. Anthropic cho biết các mô hình của họ đã góp phần đẩy nhanh nghiên cứu AI. Nếu AI tự động hóa phần lớn hoạt động nghiên cứu và phát triển, tốc độ đánh giá độ an toàn của mô hình mới và xây dựng biện pháp bảo vệ có thể không theo kịp tốc độ phát triển của AI.

Hồ sơ cũng xem tranh luận xã hội về khả năng nhận thức hoặc địa vị đạo đức của AI là một rủi ro kinh doanh. Theo công ty, nếu tranh luận dẫn đến yêu cầu quản lý hoặc áp lực dư luận, cách phát triển, huấn luyện và triển khai mô hình có thể bị hạn chế. Nội dung này không xác nhận AI có khả năng nhận thức, cũng không đưa ra kết luận về cuộc tranh luận.

Anthropic còn đề cập vấn đề trách nhiệm đối với các tác nhân AI tự chủ. Khi kết nối với hệ thống bên ngoài để chạy mã, liên lạc hoặc xử lý giao dịch, lỗi và sự cố bảo mật có thể gây tác động lớn hơn. Hồ sơ cho biết phạm vi trách nhiệm pháp lý đối với thiệt hại phát sinh trong quá trình này vẫn chưa rõ.

Bên cạnh an toàn AI, Anthropic công bố các rủi ro kinh doanh liên quan đến khách hàng và kênh phân phối. Trong giai đoạn từ tháng 1 đến tháng 9 năm 2026, năm khách hàng lớn nhất chiếm khoảng 25% doanh thu; tỷ trọng của một khách hàng riêng lẻ không vượt quá 10%. Hai con số này được tính theo các tiêu chí khác nhau.

Amazon, Google và Microsoft vừa cung cấp dịch vụ đám mây cho Anthropic, vừa phát triển các mô hình AI cạnh tranh. Công ty cho biết trong hồ sơ rằng mối quan hệ này có thể ảnh hưởng đến việc phân bổ tài nguyên tính toán, giá cả, chất lượng dịch vụ và thứ tự ưu tiên bán hàng.

Trước đó, Anthropic đã công khai nộp hồ sơ đăng ký IPO. Tuy nhiên, hồ sơ lần này không đồng nghĩa với việc công ty đã chắc chắn niêm yết, cũng không công bố thiệt hại thực tế do rủi ro AI gây ra. Anthropic cho biết số cổ phiếu chào bán và khoảng giá vẫn chưa được xác định.