Anthropic cảnh báo AI worm có thể tự nhân bản trên thiết bị IoT trong vài tháng

Các nhà nghiên cứu Anthropic cảnh báo những mô hình trí tuệ nhân tạo (AI) nhỏ có thể tự nhân bản trên thiết bị Internet vạn vật (IoT) thương mại trong vài tháng tới. Tuy nhiên, nghiên cứu chưa xác nhận AI worm thực sự lây nhiễm và phát tán qua các thiết bị gia dụng.

William Zhou và Daniel Freeman thuộc nhóm Frontier Red Team của Anthropic cho biết trong bài nghiên cứu ngày 12 rằng họ đã thử nghiệm khả năng tự nhân bản của mô hình AI trên thiết bị IoT thương mại. Nhóm chạy một mô hình AI nhỏ trên đầu thu Android TV giá rẻ, rồi đánh giá khả năng mô hình tìm cách hoạt động trên các thiết bị lạ. Lò nướng thông minh được nêu làm ví dụ về thiết bị IoT có thể trở thành mục tiêu trong tương lai.

Nhóm nghiên cứu phân bổ mô hình chạy trên 15 đầu thu Android TV giá rẻ. Họ cũng thử suy luận bằng mô hình 9B trên 9 loại phần cứng và vận hành được trên 8 loại. Tuy vậy, các mô hình hiện nay chưa đủ nhỏ và mạnh để tự nhân bản ổn định trên TV thông minh thực tế. Những mô hình từ 30B trở xuống thực hiện được từng tác vụ cần thiết, nhưng gặp lỗi khi ghép các bước thành một quy trình hoàn chỉnh.

Thử nghiệm nhân bản được tiến hành trên 8 thiết bị Android giả lập trong mạng khép kín. Nhóm cố ý đơn giản hóa các bước tấn công; trong số các mô hình có trọng số mở được thử nghiệm, chỉ GLM-5.2 hoàn tất toàn bộ quy trình nhân bản. Anthropic cho biết kết quả này nên được xem là giới hạn trên, không phải con số thể hiện xác suất thành công trong môi trường thực tế.

Nhóm nghiên cứu dự đoán rằng nếu năng lực của các mô hình nhỏ tiếp tục cải thiện với tốc độ như trước đây, chúng có thể đạt mức GLM-5.2 vào cuối năm nay. Nhóm cũng cho rằng có thể xuất hiện hệ thống nhân bản bằng cách chuyển trọng số mô hình giữa các thiết bị. Đây là dự đoán của nhóm nghiên cứu dựa trên giả định về tốc độ phát triển công nghệ.

Một hệ thống như vậy có thể khó bị ngăn chặn bằng cách chỉ chặn một máy chủ trung tâm. Mặt khác, Anthropic dự đoán quá trình nhân bản có thể mất vài ngày, khiến tốc độ phát tán chậm. Mối lo ngại mà nghiên cứu nêu ra không phải là thiết bị gia dụng đang bị lây nhiễm, mà là khả năng con đường để mô hình AI hoạt động và tự nhân bản trên thiết bị có bảo mật yếu đang dần trở nên khả thi về mặt kỹ thuật.

Một nghiên cứu trước đây về AI worm nhân bản tới trung bình 20,4 máy chủ trong mạng ảo cô lập đã thử nghiệm khả năng dùng mô hình ngôn ngữ lớn có trọng số công khai để xây dựng đường tấn công và nhân bản trong mạng. Nghiên cứu lần này của Anthropic tập trung đánh giá liệu mô hình có thể chạy trên thiết bị IoT giá rẻ và liệu quy trình tự nhân bản có thể được kết nối thành chuỗi hay không.

Nhóm nghiên cứu cho rằng các thiết bị IoT kết nối Internet và có bảo mật yếu có thể trở thành mục tiêu ban đầu. Kết quả lần này là đánh giá kỹ thuật dựa trên thử nghiệm có kiểm soát.