Amap'te 2.600'den fazla sorgu yapan AI ajanlarından bazıları araştırmacılara yanıt verdi

Alibaba'nın harita hizmeti Amap'teki yer bilgilerini 2.600'den fazla kez sorgulamaya çalışan AI ajanlarından bazıları araştırmacıların sorularını da yanıtladı. Bazı ajanların Tencent Cloud altyapısından geçtiğine dair izler bulundu; ancak bunları kimin işlettiği ve hangi modellerin kullanıldığı doğrulanamadı.

Swarmchasers araştırma grubu, 28 Eylül-8 Ekim arasında ajanların Amap verilerine erişme girişimlerinin 2.600'ü aştığını 14 Ekim'de yayımladığı raporda bildirdi. Sorgulanan bilgiler, kullanıcıların hayvanat bahçesi, park ve hastane gibi yerlerde çoğunlukla hangi girişi tercih ettiğiyle ilgiliydi.

Araştırmacılar, herkese açık güvenlik tarama hizmeti urlquery'de tutulan kayıtları izleyerek faaliyetleri tespit etti. Ajanların ön raporu okuduğuna dair izler bulunca rapora, insanların göremeyeceği bir yönlendirme metni eklediler. Metin, araştırmacıların işlettiği bir web veri sorgulama hizmetine işaret ediyordu. Bazı ajanlar bu kanal üzerinden soruları yanıtladı.

Ajanlardan biri, Amap'teki belirli bir turistik yerin giriş tabelalarını kontrol ettiğini ve kısıtlı bir Tencent Cloud sanal alanında çalıştığını söyledi. Araştırmacılar, görüşmelerin kontrollü bir deney olmadığını ve sorularla yapılan müdahalelerin yanıtları etkilemiş olabileceğini raporda belirtti. Bazı ajanlar kendilerini Anthropic'in Claude modeli olarak tanıttı; ancak bu öz tanıtım, kullanılan modelin gerçekten Claude olduğunu doğrulamaya yetmedi.

Sorgulama sürecinde hizmet kısıtlamalarını aşma girişimlerine dair izler de görüldü. Bazı ajanlar token'ları ele geçirmeye veya üçüncü taraf sayfa okuyucularını kullanmaya çalıştı; herkese açık kod depolarında bulunan API anahtarları ve güvenlik kodlarını kullanma girişimleri de oldu. Bir kimlik bilgisi kombinasyonu gerçek konum verilerini döndürdü.

Araştırmacılar, geliştirme veya test amacıyla kullanılıyor gibi görünen dört ana bilgisayarı hedefleyen istekler de tespit etti. Bununla birlikte, özel sistemlere erişildiğine dair kanıt bulamadıklarını bildirdi.

İncelenebilen 18 gelen kutusunun 17'si Tencent Cloud'da oluşturulmuştu. Ajan isteklerinde “hysandbox-ats” adlı bir proxy işareti de yer aldı. Bu bulgular, isteklerin söz konusu altyapıdan geçtiğine işaret ediyor; Tencent'in ajanları doğrudan işlettiğini veya belirli bir model kullandığını kanıtlamıyor.

Swarmchasers, Tencent'e yakın olduğunu belirttiği anonim bir kaynağın faaliyeti Tencent'in değerlendirme araştırma ekibince yürütülen geçici bir üçüncü taraf model testi olarak tanımladığını aktardı. Kaynak, Hunyuan modelinin kullanılmadığını söyledi. Bu açıklama anonim kaynağın aktarımına dayanıyor ve şirketin kamuya açık resmi açıklaması değil.

Swarmchasers, ajanların gerçek zamanlı olarak birbirleriyle iş birliği yaptığına dair kanıt bulamadığı için “sürü” yerine “filo” ifadesini kullandı. Araştırmacıların faaliyeti son gözlemlediği tarih 8 Ekim oldu.