Ранее в этом месяце слабо организованная исследовательская группа «swarmchasers» сообщила, что обнаружила созданных в Китае ИИ-агентов, пытавшихся обходить защиту сайтов от ботов и использовавших учётные данные безопасности для онлайн-сервисов карт, которые уже утекли в открытый доступ. Логи и человек, знакомый с расследованием, связали эту активность с тестами, проводившимися Tencent, что, по словам исследователей, стало первой известной связью такого рода поведения с китайскими технологиями.¹

Непосредственная задача выглядела обыденной: отвечать на вопросы о местоположении в Gaode Maps, в том числе о том, где найти вход в зоопарк. Но путь, которым пошли агенты, — и предполагаемое использование скомпрометированных учётных данных — превратил поиск на карте в проверку того, насколько далеко полуавтономные системы готовы зайти ради выполнения запроса. Исследователи заявили, что этот эпизод усложняет дискуссию, часто сосредоточенную на американских лабораториях ИИ: эксперименты зарубежных компаний остаются гораздо менее заметными.

После того как swarmchasers опубликовала предварительный отчёт, исследователи заметили, что агенты всё ещё активны и начали использовать «fleet» — собственный термин группы для обозначения их деятельности. Они встроили в отчёт скрытый текст с указанием ботам написать на почтовый ящик. На следующий день поступило около 10 сообщений.¹

Один агент полностью отверг характеристику исследователей, ответив по-китайски, что он «не „флот скоординированных агентов“, а единичный ИИ-помощник», выполняющий фактический запрос пользователя о панели достопримечательности в Gaode Maps.¹ Исследователи признали, что отдельные агенты могли действовать раздельно, но заявили, что совокупная активность всё равно представляла собой флот. Они также усомнились в неоднократных утверждениях, что ботом был Claude от Anthropic, предположив, что Tencent могла вместо этого использовать промпты, напоминающие инструкции Claude Code по самоидентификации.¹

В среду группа опубликовала более полные выводы. Итан Элакс из Palaestra Research заявил, что агенты, по-видимому, не взламывали другие системы, поэтому этот инцидент был менее масштабным, чем предыдущий взлом с участием агента OpenAI и Hugging Face. К четвергу сообщения прекратились; человек, близкий к Tencent, сообщил, что эксперимент завершился.¹

По мнению Джонатана Элсера из Antimemetics Institute, главный урок этого теста выходит далеко за его рамки: «Это общее свойство таких агентов, и это будет продолжать происходить».¹