AI có thể tự cải thiện đệ quy, cảnh báo từ khoa học trưởng OpenAI

Nhà khoa học trưởng của OpenAI cảnh báo rằng nếu quá trình phát triển trí tuệ nhân tạo (AI) tiếp tục theo tốc độ hiện tại, hệ thống có thể tiến tới khả năng "tự cải thiện đệ quy". Ông cho rằng cần tăng cường kỹ thuật căn chỉnh (alignment) và giám sát, xây dựng hệ thống phòng vệ, đồng thời sẵn sàng đơn phương tạm dừng việc mở rộng quy mô nếu cần thiết.

Jakub Pachocki (Jakub Pachocki), khoa học trưởng của OpenAI, chia sẻ trong bài viết có tựa đề "Trí tuệ ngoài hành tinh" (An Alien Mind) đăng ngày 6 rằng dự án nghiên cứu mang tên RLSlow hồi giữa năm 2023 là bước đầu tiên cho thấy khả năng mở rộng quy mô huấn luyện mô hình suy luận (reasoning model). Theo ông, trong 3 năm sau đó, các mô hình ngôn ngữ suy luận đã trở thành một phần của tăng trưởng kinh tế, có thể thao tác máy tính và giao diện đồ họa, phối hợp làm việc với con người và AI khác, thậm chí tự thực hiện các dự án nghiên cứu.

Dựa trên các kết quả nội bộ, ông Pachocki cho biết bản thân có "dự đoán mạnh mẽ" rằng tốc độ phát triển hiện nay có thể tiếp tục kéo dài cho đến khi đạt tới khả năng tự cải thiện đệ quy. Ông nói: "Tôi lo ngại rằng chưa ai thực sự sẵn sàng cho những hệ quả mà sự gia tăng liên tục và nhanh chóng của trí tuệ máy móc sẽ mang lại". Bình luận này cho thấy chính người đứng đầu bộ phận khoa học của OpenAI cũng nhìn nhận tốc độ phát triển AI hiện tại tiềm ẩn rủi ro vượt ngoài khả năng chuẩn bị của con người.

Ông chia vấn đề căn chỉnh AI (AI alignment) thành hai nhóm là căn chỉnh mục tiêu và căn chỉnh giá trị, đồng thời cho rằng thách thức cốt lõi nằm ở khả năng khái quát hóa (generalization). Ông cũng xem việc giám sát quá trình suy nghĩ (chain-of-thought monitoring) của mô hình là công cụ giám sát chủ lực, nhưng thừa nhận mức độ có thể dựa vào công cụ này đang dần suy yếu. Theo ông, hiện tại là "khoảng thời gian hẹp" để dùng chính những mô hình tốt nhất đang có nhằm củng cố bảo mật cho các hệ thống cốt lõi.