Anthropic: Token suy luận Claude bị trích xuất giảm 90–99% sau biện pháp phòng vệ

Anthropic cho biết lượng token suy luận bị trích xuất để phục vụ mục đích chưng cất đã giảm 90–99% sau khi công ty triển khai các biện pháp phòng vệ mới cho Claude. Công ty gọi đây là kết quả ban đầu và cho biết chưa thể xác định hiệu quả phòng vệ sẽ kéo dài bao lâu.

Trong bài viết nghiên cứu ngày 12, Anthropic công bố các biện pháp đã áp dụng trong những tháng gần đây. Tấn công chưng cất là cách thu thập hàng loạt câu trả lời và quá trình suy luận của một mô hình khác để huấn luyện mô hình riêng mà không được nhà phát triển ban đầu cho phép.

Anthropic xem bản ghi suy luận là dữ liệu hữu ích cho việc chưng cất, nên đã hạn chế các đường truy cập và triển khai biện pháp phát hiện nỗ lực trích xuất. Claude Fable 5.1 và Opus 5.5 được bổ sung tính năng giữ lại ngữ cảnh hội thoại. Các tài khoản API được tạo sau ngày 31 tháng 8 năm 2026 không thể chỉnh sửa nội dung hội thoại trước đó; bản ghi suy luận của một số mô hình cũng bị chặn khỏi các mô hình cũ có mức bảo mật thấp hơn. Chỉ tổ chức gửi yêu cầu mới có thể xem bản ghi suy luận của Sonnet 5.5.

Hệ thống phát hiện sử dụng bộ phân loại hai giai đoạn. Anthropic cho biết tỷ lệ dương tính giả thấp hơn 0,1% sau các đợt thử nghiệm red team nội bộ và bên ngoài. Bộ phân loại này được triển khai cho Sonnet 5.5, Opus 5 và 5.5, cùng Fable 5 và 5.1.

Anthropic tăng giới hạn sử dụng đối với các tài khoản liên tục tìm cách trích xuất bản ghi suy luận và sẽ chặn nếu hành vi tiếp diễn. Kể từ ngày 24 tháng 9, công ty cũng bắt đầu tính phí trở lại cho các yêu cầu chặn thuộc một số lĩnh vực cụ thể, trong đó có chưng cất, với tỷ lệ dương tính giả dưới 0,1%.

Anthropic cho biết đã chặn hàng chục nghìn tài khoản liên quan đến hoạt động chưng cất, trong đó có những tài khoản bị chặn chưa đầy 2 giờ sau khi bắt đầu hoạt động. Sau khi chặn, lượng token suy luận bị trích xuất vẫn thấp hơn mức trước đó từ 10 đến 100 lần; vào một số ngày, lượng này ít đến mức khó đo lường. Tuy nhiên, công ty cho biết chưa gặp các nỗ lực né tránh tinh vi và kéo dài.

Các biện pháp phòng vệ cũng đi kèm chi phí. Anthropic cho biết đã từ bỏ khoản doanh thu đáng kể có thể thu được từ việc sử dụng cho mục đích chưng cất, cùng lưu lượng trả phí lên tới hàng nghìn tỷ token. Một tỷ lệ dưới 0,1% yêu cầu hợp lệ cũng có thể bị chặn nhầm, dù người dùng vẫn phải trả phí. Một số nhà phát triển cần điều chỉnh cách tích hợp để tương thích với tính năng 'lưu giữ suy nghĩ'.

Anthropic cho biết các bên tấn công phân tán lưu lượng qua API của công ty, các dịch vụ đám mây bên thứ ba và những dịch vụ suy luận khác. Công ty kêu gọi các nhà phát triển mô hình và nền tảng phối hợp tìm kiếm, chặn tài khoản giả. Hiệu quả lâu dài của các biện pháp này vẫn chưa được xác định.