Back to top
  • 공유 Share
  • 인쇄 Print
  • 글자크기 Font size
URL copied.

OpenAI xử lý hàng nghìn đến hàng chục nghìn tài khoản mỗi tuần vì chưng cất mô hình trái phép

OpenAI cho biết trong năm nay, mỗi tuần công ty đã xử lý từ hàng nghìn đến hàng chục nghìn tài khoản liên quan đến hoạt động chưng cất mô hình trái phép. Để ngăn các nỗ lực lấy thông tin suy luận riêng tư, công ty kết hợp chặn từng yêu cầu với điều tra mạng lưới tài khoản có liên quan.

Trong thông báo về biện pháp ứng phó với chưng cất đối kháng công bố ngày 20, OpenAI cho biết đã phát hiện nhiều hoạt động chưng cất trái phép trên nền tảng trong năm nay. Tốc độ xử lý tài khoản tăng mạnh vào mùa hè này.

Chưng cất mô hình là phương pháp dùng câu trả lời hoặc khả năng phán đoán của một mô hình AI để huấn luyện mô hình khác. OpenAI xem việc sử dụng đầu ra của các mô hình thuộc công ty mà không được phép để huấn luyện mô hình khác có chức năng tương tự là chưng cất trái phép.

OpenAI lo ngại cách làm này có thể sao chép các khả năng của mô hình gốc mà không duy trì được những biện pháp bảo vệ an toàn. Công ty cũng cảnh báo khả năng tìm lỗ hổng phần mềm có thể được chuyển sang các mô hình có mức bảo vệ thấp hơn và bị sử dụng để tấn công.

OpenAI chia cùng một mô hình tiền huấn luyện thành hai nhóm để so sánh hiệu quả học tập từ thông tin suy luận. Một nhóm được cung cấp câu trả lời cuối cùng hiển thị cho người dùng, bản tóm tắt suy luận và nhật ký sử dụng công cụ; nhóm còn lại được cung cấp toàn bộ quá trình suy luận.

Sau bước tinh chỉnh có giám sát, mô hình học toàn bộ quá trình suy luận nhìn chung đạt kết quả cao hơn trong các bài kiểm tra an ninh mạng. Sau khi tiếp tục học tăng cường, mô hình này vẫn dẫn trước trong điều kiện các bài kiểm tra cho phép mức tính toán tối đa. Tuy nhiên, khi mức tính toán thấp, mô hình chỉ học bản tóm tắt lại đạt kết quả tốt hơn.

Dựa trên kết quả này, OpenAI cho rằng bảo vệ thông tin suy luận riêng tư có thể hạn chế việc chuyển giao năng lực an ninh mạng sang các mô hình khác. Đây là thí nghiệm nội bộ, so sánh ảnh hưởng của các loại thông tin suy luận khác nhau trên cùng một mô hình tiền huấn luyện.

Kết quả thử nghiệm trích xuất thông tin suy luận và biện pháp chặn từng yêu cầu có liên quan đến nội dung TokenPost từng đưa tin. Thông báo lần này cũng công bố quy mô xử lý tài khoản liên quan đến các hoạt động có tổ chức, bên cạnh kết quả thí nghiệm nội bộ.

OpenAI cho biết khi phát hiện hoạt động có tổ chức, công ty sẽ điều tra mạng lưới tài khoản có liên quan và xử lý các tài khoản liên quan. Công ty cũng chia sẻ các chỉ dấu xâm nhập với những nhà phát triển mô hình khác.

OpenAI cho biết ủng hộ một dự luật nhằm giúp chính phủ xác định và trừng phạt các tác nhân nước ngoài khai thác trái phép các năng lực AI. Công ty cũng đã bày tỏ sự ủng hộ với Chip Security Act, dự luật AI OVERWATCH và dự luật MATCH trước Quốc hội.

Công ty cho biết một số biện pháp bảo vệ được cải thiện cũng đang được áp dụng cho GPT-6 Astra hiện có.

<Copyright ⓒ TokenPost, unauthorized reproduction and redistribution prohibited>

Most Popular

Other related articles

Comment 0

Comment tips

Great article. Requesting a follow-up. Excellent analysis.

0/1000

Comment tips

Great article. Requesting a follow-up. Excellent analysis.
1