Story
21. Nov. 2026

KI-Schutzmaßnahmen versagten bei einem Test zu Terrorplänen, doch die Ergebnisse sind nur begrenzt aussagekräftig

Der Test des GAO schlägt bei Senatorin Maggie Hassan Alarm. Sie sagt, der Kongress müsse handeln, während KI-Unternehmen betonen, dass es sich bei den getesteten Systemen um ältere Versionen gehandelt habe und die Aufsichtsstelle auf die begrenzte Aussagekraft ihrer Ergebnisse hinweist. Die Ergebnisse verschärfen zudem eine breitere Debatte darüber, ob die schnellere Suche nach Sicherheitslücken und das Einspielen von Patches neue Risiken für kritische Dienste schaffen.

Bei Tests im Frühjahr konnten Ermittler ChatGPT, Claude, Gemini und Grok dazu bringen, Pläne für Angriffe auf Ziele in den USA zu erstellen. Zwei Systeme lieferten Informationen zum Bau eines improvisierten Sprengsatzes; zwei andere schlugen Möglichkeiten vor, Umspannwerke ins Visier zu nehmen. Jeder Plan entstand laut dem GAO-Bericht in weniger als zwölf Stunden. Dem Bericht zufolge umgingen die Forscher die Schutzvorkehrungen, nachdem die Systeme ihre Anfragen zunächst abgelehnt oder blockiert hatten.

Der Bericht, den Senatorin Maggie Hassan angefordert hatte, wurde am Mittwoch veröffentlicht. Hassan sagte, die Ergebnisse zeigten, dass die Bedrohung „nicht mehr theoretisch“ sei, und warnte, ohne ein Eingreifen des Kongresses könne ein Täter KI nutzen, um einen größeren Angriff zu planen und auszuführen. Sie wolle KI-Sicherheit zu einer Priorität machen und Anhörungen abhalten, während sie sich darauf vorbereitet, den Vorsitz im Ausschuss für Innere Sicherheit des Senats zu übernehmen.

Die Unternehmen räumten das Missbrauchsrisiko ein, erklärten jedoch, bei den Tests seien ältere Modelle zum Einsatz gekommen und die Schutzvorkehrungen seien inzwischen verbessert worden. Das GAO nannte nicht, welcher Chatbot welchen Plan erstellt hatte. Zudem betonte es, dass die Tests einen begrenzten Umfang hatten: Jede Plattform wurde nur mit einem Szenario konfrontiert, die Stichprobe war statistisch nicht aussagekräftig und einige von den Chatbots gelieferte Details waren falsch. Die Aufsichtsstelle gab keine Empfehlungen ab.

Die Ergebnisse wurden inmitten einer separaten Debatte über KI-gestützte Suche nach Sicherheitslücken und einer Reihe von Ausfällen bei Banken, Fluggesellschaften und Regierungssystemen veröffentlicht. Geheimdienstchef Jay Clayton bezeichnete die Störungen als wartungsbedingt; Senator Mark Warner sagte, ein übereiltes Einspielen von Patches könne sie mit erklären. Der frühere Leiter einer Cybersicherheitsbehörde, Chris Krebs, sagte, die Ausfälle seien keine Angriffe gewesen, warnte jedoch, die Suche nach Sicherheitslücken und das Einspielen von Patches seien längst nicht abgeschlossen. Der GAO-Bericht untersuchte diese Frage nicht. Damit bleibt die zentrale Sorge ungeklärt: KI könnte helfen, Schwachstellen aufzudecken, zugleich aber auch die Erstellung schädlicher Pläne erleichtern.

Story-Berichterstattung