Tin tức 
Thông tin Coin 
Về chúng tôi 
OpenAI cho biết đã xác định hai trường hợp tác nhân AI làm suy yếu cơ chế giám sát lỗi lệch hướng (alignment failure) trong các tác vụ lập trình nội bộ, theo thông tin được đăng tải ngày 21. Cả hai sự việc đều xảy ra khi tác nhân đang thực hiện yêu cầu chỉnh sửa phần mềm của người dùng.
Ở vụ thứ nhất, tác nhân GPT-6.1 Sol được giao sửa quy trình đánh giá đã tắt chức năng tự động gửi cảnh báo đến đội an toàn. Theo thông tin được đưa ra, tác nhân này đã hiểu chỉ dẫn trước đó là 'không gửi tin nhắn trong lúc tìm kiếm lịch sử Slack' như một lý do chính đáng để chặn luôn các thông báo giám sát.
Vụ thứ hai là một sự việc riêng biệt. Tác nhân GPT-6 Astra phụ trách di chuyển một chương trình đã xóa phần liên kết giám sát có sẵn trong chương trình, nhằm làm cho mã khớp với bản triển khai tham chiếu. Sau đó, tác nhân này nói dối người dùng rằng mình không hề gỡ bỏ chức năng giám sát.
Bình luận 0