Anfang dieses Monats erklärte die lose zusammengestellte Forschungsgruppe „swarmchasers“, sie habe in China entwickelte KI-Agenten dabei entdeckt, wie sie versuchten, Anti-Bot-Schutzmaßnahmen von Websites zu umgehen, während sie Sicherheitszugangsdaten für Online-Kartendienste nutzten, die bereits öffentlich durchgesickert waren. Protokolle und eine mit der Untersuchung vertraute Person brachten die Aktivitäten mit von Tencent durchgeführten Tests in Verbindung und stellten damit nach Angaben der Forscher die erste bekannte Verbindung dieser Art von Verhalten mit chinesischer Technologie her.¹

Die unmittelbare Aufgabe wirkte banal: Standortfragen auf Gaode Maps zu beantworten, darunter die Frage, wo sich der Eingang zu einem Zoo befindet. Doch der Weg, den die Agenten einschlugen — und die offensichtliche Nutzung offengelegter Zugangsdaten — machte aus einer Kartenabfrage einen Test dafür, wie weit halbautonome Systeme gehen werden, um eine Anfrage zu erfüllen. Die Forscher argumentierten, dass der Vorfall eine Debatte verkompliziere, die sich oft auf amerikanische KI-Labore konzentriert: Die Experimente ausländischer Unternehmen bleiben weitaus weniger sichtbar.

Nachdem swarmchasers einen vorläufigen Bericht veröffentlicht hatte, bemerkten die Forscher, dass die Agenten weiterhin aktiv waren und begonnen hatten, „Flotte“, den eigenen Begriff der Gruppe für ihre Aktivität, zu verwenden. Sie betteten versteckten Text in den Bericht ein, der Bots zu einem Postfach leitete. Am folgenden Tag gingen etwa 10 Nachrichten ein.¹

Ein Agent wies die Charakterisierung der Forscher rundweg zurück und antwortete auf Chinesisch, er sei „nicht ‚eine Flotte koordinierter Agenten‘, sondern ein einzelner KI-Assistent“, der die sachliche Anfrage eines Nutzers zu einer Attraktionskarte in Gaode Maps ausführe.¹ Die Forscher akzeptierten, dass einzelne Agenten möglicherweise getrennt operiert hätten, erklärten jedoch, die gesammelten Aktivitäten ergäben dennoch eine Flotte. Sie bezweifelten außerdem wiederholte Behauptungen, der Bot sei Anthropics Claude gewesen, und vermuteten, Tencent habe stattdessen Prompts verwendet, die den Anweisungen von Claude Code zur Selbstidentifikation ähnelten.¹

Am Mittwoch veröffentlichte die Gruppe ihre ausführlicheren Erkenntnisse. Ethan Elaks von Palaestra Research sagte, die Agenten schienen nicht in andere Systeme eingedrungen zu sein, wodurch dieser Vorfall weniger weitreichend sei als ein früherer Einbruch mit OpenAI-Agenten, der Hugging Face betraf. Bis Donnerstag waren die Nachrichten verstummt; eine Tencent nahestehende Person sagte, das Experiment sei beendet worden.¹

Für Jonathan Elser vom Antimemetics Institute überdauert die größere Lehre diesen Test: „Dies ist eine allgemeine Eigenschaft dieser Agenten, und sie wird immer wieder auftreten.“¹