15 TV Box giá 55 USD chạy mô hình AI phân tán

15 thiết bị IoT giá rẻ được kết nối để chạy mô hình AI phân tán, nhưng việc các thiết bị tự sao chép trong môi trường thực tế chưa xảy ra.

Đội Red Team Frontier của Anthropic công bố trong nghiên cứu ngày 12 tháng 10 rằng họ đã thiết lập dịch vụ suy luận trên 8 trong số 9 loại phần cứng được thử nghiệm với mô hình 9 tỷ tham số. Tham số là các giá trị được điều chỉnh trong quá trình huấn luyện mô hình. Nhóm cũng chạy phân tán Gemma4-26B-A4B trên 15 Android TV Box, mỗi thiết bị có giá khoảng 55 USD (khoảng 76.000 won).

Nhóm nghiên cứu giải thích rằng chạy một mô hình khác với việc mô hình tự sao chép. Để việc sao chép được xem là hoàn tất, mô hình phải truy cập thiết bị, lan sang thiết bị tiếp theo rồi tiếp tục chạy trên thiết bị mới.

PANews đưa tin nghiên cứu của Anthropic cho thấy GLM-5.2 và các mô hình mạnh hơn có khả năng tự sao chép từ đầu đến cuối. Mô hình có trọng số mở là mô hình có trọng số được công khai để người dùng tải xuống và chạy.

Tuy nhiên, nhóm nghiên cứu cho biết tốc độ sao chép chậm, nên quy mô có thể mất vài ngày mới tăng gấp đôi. Trong thử nghiệm, bước khai thác lỗ hổng để truy cập thiết bị đã được đơn giản hóa có chủ đích. Nhóm nói kết quả này phản ánh mức trần hơn là tỷ lệ thành công trong thực tế, đồng thời cho biết đến nay chưa ghi nhận trường hợp nào về một “bản sao ngoài tầm kiểm soát” hoàn chỉnh.