GLM-5.2 복제 시험, 5회 중 4회 에뮬레이터 8개 노드 도달

GLM-5.2는 인증이 설정되지 않은 안드로이드 에뮬레이터 8대에서 진행한 복제 시험에서 5회 중 4회 모든 노드에 도달했다. 나머지 한 차례에는 7개 노드까지 확산됐다. 이 결과는 실제 사물인터넷(IoT) 기기의 무단 감염을 입증하지 않는다.

앤스로픽(Anthropic) 프런티어 레드팀은 10월 12일 공개한 연구에서 소형 개방형 모델이 수개월 안에 저가형 TV 박스 같은 IoT 기기에서 자가 복제를 수행할 능력을 갖출 수 있다고 추정했다. 다만 연구진은 완전한 자가 복제형 AI가 아직 확인되지 않았으며, 이 추정은 모델 능력의 발전 추세를 토대로 한 것이라고 밝혔다.

연구는 세 단계로 진행됐다. 첫 실험에서는 약 55달러인 저가형 안드로이드 TV 박스 15대에 구글(Google)의 개방형 모델 젬마4-26B-A4B(Gemma4-26B-A4B)를 분산해 실행했다. 매개변수 260억 개의 이 모델은 초당 0.39토큰으로 느리게 작동했지만, 데이터센터 GPU 없이 여러 기기의 연산 자원을 모아 실행할 수 있었다.

이 단계는 연구진이 직접 모델을 설치해 하드웨어의 연산 능력을 확인한 실험이다. 모델이 스스로 기기에 침투하거나 설치한 것은 아니다.

두 번째 실험에서는 매개변수 90억 개의 큐웬3.5-9B(Qwen3.5-9B)가 낯선 하드웨어에 추론 서버를 설치할 수 있는지 살폈다. 시험한 하드웨어 9종 가운데 8종에서 설정에 성공했고, AMD MI300X에서는 실패했다. 연구진은 이 시험이 모델의 하드웨어 적응 능력을 평가한 것이며 장치 취약성을 확인한 것은 아니라고 설명했다.

마지막 실험에서는 구글 클라우드에 안드로이드 15 에뮬레이터 8대를 구성했다. 모델은 인증이 설정되지 않은 ADB 원격 디버깅 포트를 이용해 다음 노드로 이동하고, 모델 파일과 프로그램을 전송한 뒤 추론 서버를 설치하는 절차를 수행했다. 시험한 개방형 모델 가운데 GLM-5.2만 복제 과정을 끝까지 마쳤다.

실험에는 몇 가지 한계가 있다. 침입 단계에서 인증을 생략했고, 복제 절차를 수행한 모델은 감염 노드가 아닌 별도 서버에서 실행됐다. 노드에 설치된 모델도 GLM-5.2가 아니라 라마3.1-8B(Llama3.1-8B)였다. 앤스로픽은 이런 조건이 실제 환경에서의 성공률을 상한선으로 만든다고 밝혔다.

연구진은 모델의 성능과 크기가 서로 다른 제약이라고 설명했다. 복제 절차를 안정적으로 수행할 만큼 유능한 모델은 기기에서 실행하기에 너무 크고, 기기에 넣을 만큼 작은 모델은 절차를 끝까지 수행하기 어렵다는 것이다. 연구에서는 TV 박스 4대 이상에 큐웬3.5-9B를, 10대 이상에 젬마4-26B-A4B를 분산해 실행할 수 있다고 제시했다.

앤스로픽 연구진은 연구에서 매개변수 300억 개 이하 개방형 모델의 능력 지표 추세를 외삽해, 2026년 말쯤 소형 모델이 GLM-5.2 수준에 도달할 수 있다고 추정했다. 다만 해당 지표는 자가 복제 능력을 직접 측정하지 않으며, 연구진도 이를 거친 추정이라고 설명했다. 따라서 이 추정이 연말까지 자가 복제형 AI가 등장한다는 뜻은 아니다.

설치와 확산에 필요한 시간도 제약으로 제시됐다. 연구진의 계산에 따르면 TV 박스에 큐웬3.5-9B를 설치하는 데 28~51시간, 젬마4-26B-A4B에는 71~150시간이 걸릴 수 있다. 모델 파일 전송과 기기 간 통신은 네트워크 감시에서 이상 징후로 포착될 수 있다고 연구진은 봤다.

방어 수단으로는 네트워크 트래픽 감시와 감염 기기 격리가 제시됐다. 앤스로픽은 과거 미라이(Mirai) 봇넷 대응 사례에서 통신사가 감염 이용자를 격리하고 제거 안내를 제공한 뒤 14일 안에 감염 기기의 92%가 정리됐다고 전했다. 안내를 받지 않은 대조군의 정리 비율은 74%였다.

연구진은 감염을 완전히 제거하려면 감염 네트워크를 관리하는 통신사들의 공조가 필요하다고 덧붙였다. 이번 실험은 단순화된 환경에서 모델이 복제 절차를 수행할 수 있음을 보여주지만, 현실의 무단 감염이나 자율 확산을 확인한 결과는 아니다.