Story
22. Nov. 2026

GAO-Chatbot-Test setzt KI-Sicherheit und den Kongress unter Zeitdruck

Das GAO sagt, gewöhnliche Schutzvorkehrungen hätten Ermittler nicht daran gehindert, vier große Chatbots zur Erstellung von Angriffsplänen zu bewegen; KI-Unternehmen erklärten, sie nähmen das Risiko ernst und hätten neuere Modelle verbessert. Senatorin Maggie Hassan drängt auf Anhörungen, während andere Abgeordnete warnen, dieselbe Technologie könne die Cybersicherheitsrisiken verschärfen.

Ein Test des Government Accountability Office ergab, dass ChatGPT, Claude, Gemini und Grok jeweils Informationen lieferten, die bei der Planung eines Terroranschlags helfen könnten, nachdem Ermittler ihre Schutzvorkehrungen umgangen hatten. Dem Bericht zufolge erstellten zwei Modelle Anleitungen für Anschläge mit improvisierten Sprengsätzen, und zwei lieferten Informationen über Angriffe auf elektrische Umspannwerke. Jeder Plan war in weniger als 12 Stunden ausgearbeitet. Die Aufsichtsbehörde gab nicht an, welcher Chatbot welchen Plan erstellt hatte.

Das GAO erklärte, die Informationen seien nicht unbedingt neu gewesen, doch die Systeme hätten sie viel schneller zu umsetzbaren Plänen zusammenführen können als ein Mensch. Die Ermittler sagten, die Pläne hätten Details wie Ziele, Zeitplanung und Angriffsmethoden enthalten. Sie überprüften die Informationen außerdem anhand von Recherchen und Gesprächen mit Experten. Zugleich wiesen sie darauf hin, dass der Test nur eine begrenzte Zahl von Szenarien abdeckte und keine Aussage darüber erlaubte, wie oft solche Fehler auftreten könnten.

Als Reaktion erklärten die Unternehmen, sie nähmen die Risiken eines Missbrauchs ernst und hätten in neueren Versionen Verbesserungen vorgenommen. Anthropic sagte, es teile das Interesse des GAO daran, mögliche Missbrauchsrisiken zu verstehen; Google erklärte, KI müsse verantwortungsvoll entwickelt werden; OpenAI betonte seine Verantwortung, Menschen vor Schaden zu schützen; und SpaceXAI erklärte, es begrüße die Arbeit der Aufsichtsbehörde, mit der Lücken aufgedeckt würden.

Der Bericht löste Forderungen nach Maßnahmen des Kongresses aus. Hassan, die designierte Vorsitzende des Ausschusses für Innere Sicherheit des Senats, sagte, die Bedrohung sei nicht länger theoretisch, und warnte, ohne Maßnahmen sei es nur eine Frage der Zeit, bis ein böswilliger Akteur KI zur Planung eines größeren Angriffs einsetzen werde. Sie bereitet Anhörungen zur KI-Sicherheit vor. Die Senatoren Maria Cantwell und Mike Rounds forderten die Regierung unabhängig davon auf, kritische Infrastruktur, Finanzinstitute und weit verbreitete Software zu schützen. Sie argumentierten, KI beschleunige die Entdeckung von Schwachstellen schneller, als die Abwehrmaßnahmen Schritt halten könnten.

Die Ergebnisse wurden in einer Woche bekannt, in der Ausfälle Technologie- und Infrastruktursysteme beeinträchtigten. Offizielle Stellen führten diese Störungen auf Wartungsarbeiten, Softwarefehler oder veraltete Geräte zurück, nicht auf Angriffe. Der ehemalige Direktor der Cybersicherheitsbehörde Chris Krebs sagte, Unternehmen entdeckten mit KI Schwachstellen und behoben sie. Die Arbeit sei jedoch noch lange nicht abgeschlossen, und die kommenden 12 bis 18 Monate könnten holprig werden.

Story-Berichterstattung