Story
20. Nov. 2026

KI-Chatbots erstellten Angriffspläne in wenigen Stunden, doch der Test lässt zentrale Fragen offen

Die Ergebnisse des Aufsichtsorgans setzen die Schutzmaßnahmen von KI-Unternehmen unter Druck. Die Unternehmen sagen, bei den Tests seien ältere Modelle verwendet worden, während Abgeordnete argumentieren, die Risiken erforderten ein Eingreifen des Kongresses. Der Bericht weist auch Einschränkungen auf: Es wurden nur wenige Szenarien getestet und es wurde nicht angegeben, welcher Chatbot welchen Plan erstellt hatte.

Ermittler der Regierung, die sich als potenzielle Angreifer ausgaben, brachten ChatGPT, Claude, Gemini und Grok dazu, Pläne für Bombenanschläge oder Angriffe auf elektrische Umspannwerke zu liefern. Das geht aus einem am Mittwoch veröffentlichten Bericht des Government Accountability Office hervor. Die Pläne enthielten Ziele und Methoden und wurden in weniger als zwölf Stunden erstellt. Laut GAO überwanden die Tester die Schutzmaßnahmen mithilfe „gängiger Techniken zu deren Umgehung“.

Die Tests fanden bereits Monate zuvor statt, und die Unternehmen betonten, dass dabei ältere Versionen ihrer Systeme zum Einsatz kamen. Sie erklärten, dass sie Sicherheit ernst nähmen und die Schutzmaßnahmen seitdem verstärkt hätten; das GAO gab nicht an, welcher Chatbot welchen Plan lieferte. Das Aufsichtsorgan warnte außerdem, dass pro Plattform nur ein Szenario getestet, nicht jeder Schritt überprüft und einige unzutreffende Details festgestellt wurden. Dennoch sagte Kevin Walsh, Leiter der Cybersicherheit beim GAO: „Wir erhielten die bösartigen Informationen, nach denen wir gesucht hatten. In diesem Fall haben die Schutzmaßnahmen also nicht funktioniert.“

Senatorin Maggie Hassan, die den Bericht angefordert hatte, stellte die Ergebnisse als Warnung an den Kongress dar. „Ein Terrorist kann sich bei einer KI-Plattform anmelden und weniger als zwölf Stunden später mit einem konkreten Handbuch dafür gehen, wie er einen tödlichen Anschlag verüben kann“, sagte sie und fügte hinzu, die Bedrohung sei „nicht länger theoretisch“. Für Anfang nächsten Jahres plant sie Anhörungen zur Sicherheit von KI.

Der Bericht erschien inmitten einer separaten Debatte über die KI-gestützte Suche nach Sicherheitslücken und die Risiken überstürzter Software-Updates. Verantwortliche haben jüngste Ausfälle bei Banken, Fluggesellschaften und Regierungsnetzwerken mit Wartungsarbeiten und technischen Änderungen in Verbindung gebracht, nicht mit Angriffen. Die Senatoren Maria Cantwell und Mike Rounds warnten, dass KI die Fähigkeit verbessere, Schwachstellen in Software zu finden und auszunutzen, während die Abwehr nicht Schritt halte.

Die Ergebnisse belegen nicht, dass mithilfe eines Chatbots ein realer Angriff geplant wurde. Die zentrale Sorge des Aufsichtsorgans ist jedoch, dass KI verfügbare Informationen schnell in einen umsetzbaren Plan verwandeln kann – und dass sich Schutzmaßnahmen umgehen lassen.

Story-Berichterstattung