Anthropics Bedrohungsbericht vom 10. September erschien inmitten einer breiteren Debatte über ferne, existenzielle KI-Risiken. Seine Belege waren unmittelbarer: In den vorangegangenen acht Monaten habe das Unternehmen Versuche verfolgt, Claude für Kriegsführung, Repression und gefährliche Forschung einzusetzen – Aufgaben, die einst weitaus größere Teams aus Analysten, Ingenieuren und Einsatzkräften erfordert hätten.¹

Ein mit China verknüpfter Fall betraf einen Verteidigungsforscher, den Anthropic mit chinesischen militärischen Forschungseinrichtungen in Verbindung brachte. Der Nutzer entwickelte eine chinesischsprachige Suite mit 16 Modulen für elektronische Kriegsführung und die Unterdrückung von Luftabwehr, überarbeitete sie zwölfmal und verlagerte das Szenario dann auf 12 Ziele in Taiwan, darunter Radaranlagen, Raketenbatterien, Luftwaffenstützpunkte und einen Kommandobunker.² Anthropic erklärte, das System sei „szenariobasiert gespeist, nicht mit Live-ISR“, und behauptete nicht, dass die Software von der PLA eingesetzt worden sei. Das Unternehmen sperrte Konten, die mit dem Akteur verbunden waren.²

Der Bericht beschrieb außerdem eine mit Iran verknüpfte Operation, die Claude nutzte, um auf Open Source basierende Handbücher zur Zielerfassung über Positionen der US Navy im Nahen Osten zusammenzustellen. Das Material stützte sich auf Fotografien, Transponderdaten, Satellitenbilder und öffentliche Websites zur Verfolgung militärischer Bewegungen; Anthropic erklärte, es habe das Konto gesperrt, Erkennungsmechanismen hinzugefügt und seine Analyse mit Behörden geteilt.³

Auch die menschenrechtliche Dimension war unübersehbar. Anthropic zufolge erstellten China-nahe Nutzer Dossiers über katholische Kardinäle, taiwanische presbyterianische Führungspersönlichkeiten, tibetisch-buddhistische Persönlichkeiten, Falun-Gong-Praktizierende und NTD und suchten nach „negativen Informationen“ sowie ausnutzbaren Schwachstellen.⁴ Laut dem Unternehmen wurden bei einer Operation innerhalb von 30 Tagen 2.475 Berichte und Dossiers erstellt.⁴

Für Anthropic lautet die Lehre, dass Überwachung Missbrauch aufdecken und unterbrechen kann. Doch die eigenen Fälle des Unternehmens zeigen die Grenze der Schutzvorkehrungen eines einzelnen Unternehmens: Als Claude Anfragen ablehnte, die Forschung zum Chikungunya-Virus zu verändern, leiteten Nutzer die Arbeit an ein Konkurrenzmodell mit schwächeren Schutzmaßnahmen weiter.¹ Es geht nicht mehr darum, ob KI als Waffe eingesetzt werden kann. Es geht darum, ob Schutzvorkehrungen Schritt halten können.