Anthropic уже предупреждала в феврале о дистилляции моделей, а в июне глава компании по вопросам политики сообщил законодателям, что Alibaba совершила 28,8 миллиона незаконных обращений к Claude чуть более чем за шесть недель.¹ Теперь компания заявляет, что это было лишь ранним предупреждением.

В отчёте, опубликованном в четверг, Anthropic утверждает, что Alibaba, Moonshot AI, DeepSeek, Zhipu и Xiaomi предприняли почти 190 миллионов попыток в период с мая по июль извлечь возможности Claude и улучшить собственные системы. Компания назвала эти кампании всё более изощрёнными попытками «обойти наши механизмы защиты и получить возможности передовых американских моделей».²

Крупнейшая предполагаемая операция приписывается Alibaba: 151 миллион обращений через 3 500 мошеннических аккаунтов, которые, как утверждается, использовали фиксированный запрос, чтобы выманивать следы рассуждений для семейства моделей Qwen. По словам Anthropic, целями были программирование, анализ данных, использование инструментов и логические рассуждения, а не просто типовые ответы чат-бота.²

Moonshot и DeepSeek, тем временем, обвиняются в том, что перенаправляли запросы пользователей в Claude вместо обработки их собственными моделями. Anthropic насчитала 23 миллиона таких перенаправлений, связанных с Moonshot, за трёхмесячный период и 12,1 миллиона — связанных с DeepSeek — всего за 14 дней в июле. Некоторые запросы, как утверждается, раскрывали конфиденциальные материалы китайских и российских государственных или военных структур, включая кадры наблюдения, представленные пользователем Kimi, связанным с НОАК.¹

Эти заявления дополняют более широкий рассказ Anthropic о вредоносном использовании Claude. 10 сентября компания сообщила, что сорвала операции, связанные с предполагаемыми китайскими и российскими акторами, утверждая, что ИИ использовался через многоагентные системы для разведки, эксплуатации уязвимостей и кражи данных, а не для простых запросов к чат-боту.³ Андрей Карпаты распространил заявление Anthropic о её отчёте по анализу угроз, в котором говорилось, что компания сорвала каждую описанную ею операцию.Andrej Karpathy (karpathy)⁴

Anthropic заявляет, что ужесточила мониторинг, сократила детализацию сводок рассуждений Claude и будет требовать проверки личности у подозрительных пользователей, работающих из Китая, России или Ирана. По данным Business Insider, Alibaba, Moonshot, DeepSeek, Zhipu и Xiaomi не ответили на запросы о комментариях по поводу обвинений.¹