Rộ tin Claude gắn watermark ẩn vào văn bản, Anthropic chưa xác nhận chính thức

Thông tin về việc Anthropic âm thầm gắn watermark (dấu ấn ẩn) do máy phát hiện được vào văn bản do Claude tạo ra lại xuất hiện, dù công ty này chưa đưa ra thông báo chính thức nào xác nhận đã áp dụng công nghệ này cho toàn bộ dòng sản phẩm Claude.

Theo BlockBeats đưa tin ngày 11 (giờ địa phương), watermark nói trên được áp dụng cho Claude, Claude Code, Cowork, API, cũng như các mô hình Claude được hỗ trợ trên Amazon Web Services (AWS), Google Cloud và Microsoft Foundry. Theo mô tả, các mô hình mới sẽ được tích hợp watermark ngay từ khi ra mắt, còn các mô hình hiện có sẽ được áp dụng dần theo từng giai đoạn.

Watermark được đề cập trong bài viết không phải là metadata gắn kèm file, mà là tín hiệu thống kê được cài trực tiếp vào chính văn bản do Claude tạo ra. Tín hiệu này có thể vẫn còn tồn tại sau khi người dùng sao chép và dán nội dung, nhưng độ chính xác khi phát hiện có thể giảm đối với câu ngắn hoặc những đoạn văn bản đã bị chỉnh sửa nhiều hoặc dịch sang ngôn ngữ khác. Thuật toán cụ thể chưa được công bố.

Công nghệ SynthID Text của Google DeepMind hoạt động theo cách cài các mẫu thống kê vào quá trình mô hình ngôn ngữ lớn lựa chọn token tiếp theo. BlockBeats nhận định phương thức được nhắc tới lần này có thể tương tự công nghệ này.

Thông tin trên xuất hiện sau khi nghĩa vụ minh bạch theo Đạo luật AI của Liên minh châu Âu (EU) chính thức có hiệu lực. Điều 50 của Đạo luật AI EU yêu cầu nội dung do AI tạo ra hoặc chỉnh sửa phải được đánh dấu ở định dạng mà máy có thể đọc được. Tuy nhiên, trong lần xác minh trước đó, TokenPost cũng không tìm thấy bằng chứng nào trong tài liệu công khai của Anthropic cho thấy công ty đã triển khai watermark trên toàn bộ dòng sản phẩm Claude. Ngay cả khi phát hiện được watermark, cũng không thể khẳng định chắc chắn toàn bộ văn bản đó do Claude viết ra.