Back to top
  • 공유 Share
  • 인쇄 Print
  • 글자크기 Font size
URL copied.

GPT-6.2 của OpenAI mã hóa suy luận, tăng cường phòng thủ chống chưng cất

Tấm chắn bảo mật che máy tính xách tay trong bài kiểm tra an toàn AI / TokenPost.ai (mono)

GPT-6.2 Astra (Astra) và Sol (Sol) của OpenAI (OpenAI) đã mã hóa quá trình suy luận nội bộ (chain of thought) và bổ sung cơ chế tạm giữ các phản hồi phát trực tuyến có nguy cơ làm lộ suy luận.

Trong thẻ hệ thống GPT-6.2, OpenAI cho biết đánh giá red team thích ứng về các cuộc tấn công chưng cất trái phép (cách dùng đầu ra và suy luận của một mô hình để huấn luyện mô hình khác) cho thấy tỷ lệ thành công của các nỗ lực trích xuất suy luận riêng tư từ các cuộc hội thoại trước và yêu cầu hiện tại đều dưới 1% ở cả hai mô hình. Tỷ lệ trích xuất từ các cuộc hội thoại trước, từng ở mức 54,0% trên GPT-6 Astra, đã giảm xuống 0,2% trên GPT-6.2 Astra và 0,5% trên Sol.

Trong bài viết chính thức ngày 12 tháng 10, Anthropic (Anthropic) công bố các biện pháp phòng thủ, trong đó có việc tóm tắt suy luận của Claude (Claude) trước khi hiển thị cho người dùng. Anthropic ước tính số token suy luận bị những người thực hiện chưng cất trích xuất trên nền tảng của mình đã giảm từ 10 đến 100 lần (khoảng 90–99%) sau khi áp dụng các biện pháp này, đồng thời mô tả đây là bằng chứng ban đầu.

<Copyright ⓒ TokenPost, unauthorized reproduction and redistribution prohibited>

Most Popular

Other related articles

Comment 0

Comment tips

Great article. Requesting a follow-up. Excellent analysis.

0/1000

Comment tips

Great article. Requesting a follow-up. Excellent analysis.
1