Back to top
  • 공유 Share
  • 인쇄 Print
  • 글자크기 Font size
URL copied.

Hassabis cảnh báo RSI thiếu con người rà soát có thể dẫn tới AGI nguy hiểm

Demis Hassabis (minh họa AI) / TokenPost.ai

Demis Hassabis, đồng sáng lập kiêm chủ tịch Google DeepMind, cảnh báo quá trình tự cải thiện đệ quy (RSI) khép kín, không có con người rà soát mã, có thể trở thành con đường nguy hiểm dẫn tới trí tuệ nhân tạo tổng quát (AGI).

Hassabis đưa ra nhận định này trong cuộc trò chuyện với Reid Hoffman trên Masters of Scale. Cuộc trò chuyện được ghi hình tại San Francisco, Mỹ vào tháng 10/2026; trang đăng toàn văn được công bố ngày 6 tháng 11.

Hassabis cho biết hiện nay, dù AI hỗ trợ viết mã, con người vẫn rà soát mã do AI tạo ra và thiết kế cấu trúc hệ thống. Ông phân biệt cách phát triển hiện tại với một giai đoạn mà AI tự thiết kế và cải thiện phiên bản tiếp theo, không còn bước con người kiểm tra.

Ông nói các công cụ lập trình AI có thể giúp kỹ sư tăng năng suất gấp 3-5 lần. Mối lo ngại không nằm ở việc năng suất tăng, mà ở khả năng con người bị loại khỏi cả quá trình rà soát.

Hassabis nhận định RSI khép kín có thể là “con đường rất nguy hiểm dẫn tới AGI”, vì AI tự tạo và cải thiện phiên bản tiếp theo mà không qua kiểm tra của con người có thể gây ra vấn đề về kiểm soát.

Ông cảnh báo hệ thống như vậy có thể giống một dạng “trí tuệ ngoài hành tinh” với lối tư duy khác con người. Theo ví dụ của ông, con người có thể khó hiểu hành vi của AI, còn AI cũng có thể khó hiểu ý định của con người.

Dù vậy, Hassabis cũng thừa nhận lợi ích của việc tự cải thiện. Trong những lĩnh vực có thể kiểm chứng kết quả như toán học, lập trình và trò chơi, AI có thể kiểm tra kết quả rồi lặp lại quá trình cải thiện.

Ông nêu AlphaZero làm ví dụ: hệ thống chơi lặp lại các ván và huấn luyện phiên bản mới. Cảnh báo của Hassabis nhắm tới tình huống quá trình phát triển AI tiếp diễn mà không có con người rà soát, chứ không phải bản thân những tác vụ này.

Anthropic cho biết trong dữ liệu đo lường do công ty tự công bố, tính đến tháng 8/2026, Claude “dẫn dắt” 26% công việc nghiên cứu và phát triển AI của Anthropic. Đây là đánh giá nội bộ của công ty. Theo cách phân loại của Anthropic, “dẫn dắt” nghĩa là AI thực hiện phần lớn công việc nhưng vẫn có con người giám sát. Công ty cho biết không có công việc nào trong phạm vi đo lường được thực hiện hoàn toàn tự động.

Anthropic cũng nêu các giới hạn của phép đo: ngành chưa có phương pháp đánh giá chung và công ty sử dụng chính các mô hình của mình để đánh giá. Vì vậy, con số phản ánh kết quả đo công việc nội bộ theo tiêu chí do công ty đặt ra.

Trong cuộc trò chuyện, Hassabis tập trung vào rủi ro khi con người không còn rà soát và kiểm soát, thay vì khả năng đầu tư vào RSI.

OpenAI cho biết trong tài liệu về tự động hóa nghiên cứu công bố ngày 6 tháng 9/2026, công ty đặt mục tiêu xây dựng một “nhà nghiên cứu AI tự động” trước tháng 3/2028. Đây là mục tiêu được công ty công bố, chưa phải mốc đã đạt được.

OpenAI cho biết đã đạt đến giai đoạn “thực tập sinh nghiên cứu tự động”, có thể thực hiện những nhiệm vụ được giao dưới sự chỉ dẫn của con người. Con người vẫn quyết định ưu tiên nghiên cứu, có chấp nhận kết quả hay không, cũng như có mở rộng hoặc dừng hệ thống hay không.

OpenAI cho biết công ty chưa biết cách xây dựng RSI hoàn toàn an toàn. Hassabis đề xuất các biện pháp bảo vệ gồm sandbox, giám sát, tăng cường phòng thủ an ninh mạng và kiểm toán, đánh giá từ các tổ chức bên ngoài.

<Copyright ⓒ TokenPost, unauthorized reproduction and redistribution prohibited>

Most Popular

Other related articles

Comment 0

Comment tips

Great article. Requesting a follow-up. Excellent analysis.

0/1000

Comment tips

Great article. Requesting a follow-up. Excellent analysis.
1