Nhà nghiên cứu Anthropic từ chức vì lo ngại AI có thể gây tuyệt chủng nhân loại

Nhà nghiên cứu Jacob Coxon đã rời Anthropic vì lo ngại trí tuệ nhân tạo (AI) có thể gây ra sự tuyệt chủng của nhân loại. CryptoBriefing đưa tin Coxon cho rằng Anthropic và OpenAI đang thúc đẩy phát triển siêu trí tuệ có khả năng tự cải thiện, qua đó đe dọa an toàn của con người.

Trong một bài đăng trên X, Coxon cho biết những người phát triển AI thực sự tin rằng công nghệ này có thể giết chết toàn bộ nhân loại vào cuối thập niên 2020. WIRED và Axios cũng đưa tin về việc Coxon từ chức cùng những lo ngại liên quan đến an toàn AI.

Evan Hubinger, người phụ trách nghiên cứu alignment tại Anthropic, cho biết ông đánh giá xác suất AI giết chết toàn bộ con người trong 10 năm tới ở mức trên 10%. Con số này phản ánh mức độ nghiêm trọng của tranh luận về khả năng kiểm soát các mô hình AI.

CryptoBriefing đưa tin Coxon phủ nhận cáo buộc cho rằng ông đã phối hợp việc từ chức và các bài đăng liên quan với các tổ chức bên ngoài. Vụ việc đang mở rộng thành tranh luận trong ngành về việc liệu các biện pháp kiểm soát và an toàn cho mô hình AI có thể được xây dựng kịp với tốc độ phát triển công nghệ hay không.