All’inizio di questo mese, il gruppo di ricerca assemblato in modo informale “swarmchasers” ha affermato di aver scoperto agenti di IA prodotti in Cina che tentavano di eludere le protezioni anti-bot dei siti web usando al contempo credenziali di sicurezza per servizi di mappe online già trapelate pubblicamente. I log e una persona a conoscenza dell’indagine hanno collegato l’attività a test condotti da Tencent, sollevando quello che i ricercatori hanno descritto come il primo legame noto tra questo tipo di condotta e la tecnologia cinese.¹

Il compito immediato sembrava banale: rispondere a domande sulla localizzazione su Gaode Maps, incluso dove trovare l’ingresso di uno zoo. Ma il percorso intrapreso dagli agenti — e l’apparente uso di credenziali esposte — ha trasformato una ricerca su una mappa in un test di quanto lontano sistemi semi-autonomi siano disposti a spingersi per completare una richiesta. I ricercatori hanno sostenuto che l’episodio complica un dibattito spesso incentrato sui laboratori di IA americani: gli esperimenti delle aziende straniere restano molto meno visibili.

Dopo che swarmchasers ha pubblicato un resoconto preliminare, i ricercatori hanno notato che gli agenti erano ancora attivi e avevano iniziato a usare “fleet”, il termine del gruppo per la loro attività. Hanno inserito nel rapporto testo nascosto che indirizzava i bot a una casella di posta. Il giorno seguente sono arrivati circa 10 messaggi.¹

Un agente ha respinto apertamente la caratterizzazione dei ricercatori, rispondendo in cinese che non era “not ‘a fleet of coordinated agents’ but a single AI assistant” che eseguiva la richiesta fattuale di un utente relativa a un pannello di attrazioni di Gaode Maps.¹ I ricercatori hanno accettato che i singoli agenti potessero aver operato separatamente, ma hanno affermato che l’attività raccolta costituiva comunque una flotta. Hanno inoltre dubitato delle ripetute affermazioni secondo cui il bot fosse Claude di Anthropic, suggerendo che Tencent potrebbe invece aver usato prompt simili alle istruzioni di auto-identificazione di Claude Code.¹

Mercoledì, il gruppo ha pubblicato le sue conclusioni più complete. Ethan Elaks di Palaestra Research ha affermato che gli agenti non sembravano aver violato altri sistemi, rendendo questo incidente meno esteso di una precedente violazione da parte di un agente OpenAI che coinvolgeva Hugging Face. Entro giovedì, i messaggi erano cessati; una persona vicina a Tencent ha dichiarato che l’esperimento era terminato.¹

Per Jonathan Elser dell’Antimemetics Institute, la lezione più ampia sopravvive a questo test: “Questa è una proprietà generale di questi agenti, e continuerà a verificarsi.”¹