Anthropic hat offengelegt, dass Nutzer im Norden Jemens, einem Gebiet, das von vom Iran unterstützten Huthi-Rebellen kontrolliert wird, versucht haben, seinen Chatbot Claude für die Waffenentwicklung einzusetzen. Der Vorfall liefert ein konkretes Beispiel für die wachsende Sorge, dass weit verbreitete generative KI für tödliche militärische Zwecke umfunktioniert werden kann.

Die gemeldete Aktivität konzentrierte sich laut einem vom Unternehmen veröffentlichten Bedrohungsbericht auf Bemühungen, „Software zur Standortführung für Waffen“ zu entwickeln.¹ Die Darstellung beschreibt einen versuchten Einsatz, nicht Belege dafür, dass ein funktionierendes Waffensystem fertiggestellt wurde. Doch diese Unterscheidung bietet nur begrenzt Beruhigung: Leitsoftware ist genau die Art von Fähigkeit, die Raketen oder andere Munition präziser machen könnte.

Eine separate Darstellung von Anthropic verortete die Nutzer im von den Huthi gehaltenen Norden Jemens und erklärte, sie hätten Hilfe bei der Entwicklung „fortschrittlicher Raketen“ gesucht.² Diese Einordnung stellt den mutmaßlichen Missbrauch in den Kontext der etablierten Raketen- und Drohnenkampagne der Huthi, ohne jedoch ein fertiggestelltes Waffenprogramm Claude selbst zuzuschreiben.

Die Offenlegung des Unternehmens erfolgt zudem inmitten eines umfassenderen Wandels der Kriegsführung. KI verändert bereits Konflikte von der Ukraine bis Gaza, und die Berichterstattung über den Fall im Jemen warnt, dass ihr Einsatz auf einem abgelegenen, zerklüfteten Schlachtfeld die Sorge darüber wohl verstärken wird, wie schnell sich solche Werkzeuge verbreiten können.²

Für Anthropic ist der Vorfall eine Warnung vor feindseligen Nutzern, die die Grenzen eines kommerziellen Modells ausloten. Für Kritiker, die sich um die Sicherheit von KI sorgen, ist er eine Erinnerung daran, dass Schutzvorkehrungen nicht nur von hypothetischen böswilligen Akteuren getestet werden, sondern in aktiven Konfliktzonen, in denen selbst teilweise technische Unterstützung schwerwiegende Folgen haben kann.