Anthropic hatte bereits im Februar vor Modelldestillation gewarnt, und im Juni erklärte der für Richtlinien zuständige Leiter des Unternehmens gegenüber Gesetzgebern, Alibaba habe in etwas mehr als sechs Wochen 28,8 Millionen unerlaubte Claude-Vorgänge durchgeführt.¹ Das Unternehmen sagt nun, dies sei nur eine frühe Warnung gewesen.

In einem am Donnerstag veröffentlichten Bericht behauptete Anthropic, Alibaba, Moonshot AI, DeepSeek, Zhipu und Xiaomi hätten zwischen Mai und Juli fast 190 Millionen Versuche unternommen, Fähigkeiten von Claude abzuziehen und ihre eigenen Systeme zu verbessern. Das Unternehmen bezeichnete die Kampagnen als zunehmend ausgefeilte Versuche, „unsere Schutzmaßnahmen zu umgehen und die Fähigkeiten führender US-Modelle abzuschöpfen“.²

Die größte mutmaßliche Operation wurde Alibaba zugeschrieben: 151 Millionen Vorgänge über 3.500 betrügerische Konten, bei denen angeblich ein festgelegter Prompt genutzt wurde, um Schlussfolgerungsspuren für die Qwen-Modellfamilie herauszulocken. Anthropic zufolge umfassten die Ziele Programmierung, Datenanalyse, Tool-Nutzung und logisches Denken – nicht bloß allgemeine Chatbot-Antworten.²

Moonshot und DeepSeek wiederum wurde vorgeworfen, Anfragen von Nutzern an Claude weitergeleitet zu haben, statt sie mit ihren eigenen Modellen zu verarbeiten. Anthropic zählte über den Dreimonatszeitraum 23 Millionen solcher Moonshot zugeschriebenen Umleitungen und 12,1 Millionen DeepSeek zugeschriebene Umleitungen allein in 14 Tagen im Juli. Einige Anfragen hätten angeblich sensible chinesische und russische Regierungs- oder Militärmaterialien offengelegt, darunter Überwachungsaufnahmen, die von einem mit der PLA verbundenen Kimi-Nutzer eingereicht worden seien.¹

Die Behauptungen stehen neben Anthropics umfassenderer Darstellung der böswilligen Nutzung von Claude. Am 10. September erklärte das Unternehmen, es habe Operationen gestört, die mit mutmaßlichen chinesischen und russischen Akteuren verbunden seien, und argumentierte, KI werde über Multi-Agenten-Systeme für Aufklärung, Ausnutzung und Datendiebstahl genutzt, statt für einfache Chatbot-Anfragen.³ Andrej Karpathy verstärkte Anthropics Ankündigung seines Threat-Intelligence-Berichts, dem zufolge das Unternehmen jede darin beschriebene Operation gestört habe.Andrej Karpathy (karpathy)⁴

Anthropic erklärt, es habe die Überwachung verschärft, den Detailgrad in Claudes Zusammenfassungen der Schlussfolgerungen reduziert und werde für verdächtige Nutzer, die von China, Russland oder Iran aus operieren, eine Identitätsprüfung verlangen. Alibaba, Moonshot, DeepSeek, Zhipu und Xiaomi hätten laut Business Insider nicht auf Anfragen nach einer Stellungnahme zu den Vorwürfen reagiert.¹