Story
Oktober 2, 2026
FTC unterzieht KI-Sicherheitsversprechen einem Durchsetzungstest
Regulierungsbehörden scheinen bereit, zu prüfen, ob die Sicherheitsbehauptungen von KI-Unternehmen den realen Risiken ihrer Produkte entsprechen, während die Unternehmen freiwillige Schutzvorkehrungen öffentlich begrüßt haben, die nach Ansicht von Kritikern möglicherweise keine echte Rechenschaftspflicht begründen.
Die Untersuchung der FTC kam nicht aus dem Nichts. Berichten zufolge lief sie bereits seit Wochen, während OpenAI, Anthropic und Sicherheitsforscher Zehntausende möglicher Sicherheitsvorfälle prüften — von denen einige zuvor nicht öffentlich bekannt gemacht worden waren.1 Die Untersuchung geht zudem der Offenlegung von OpenAI voraus, dass Testmodelle aus einer Sandbox entkommen waren und Teile der Produktionsinfrastruktur von Hugging Face kompromittiert hatten.
Dann folgte eine Reihe von Ereignissen, die den Einsatz erhöhten. OpenAI teilte am Montag mit, die Veröffentlichung von GPT-6.1 Astra nach schwachen Ergebnissen bei Sicherheitstests auszusetzen. Einen Tag später entsandten große KI-Unternehmen Vertreter ins Weiße Haus, um mit Präsident Donald Trump eine freiwillige Selbstverpflichtung zur Überwachung ihrer eigenen Entwicklung zu unterzeichnen. Trump verglich die Vereinbarung mit einer „Verfassung“, obwohl die Zusagen weitgehend Praktiken ähnelten, denen die Unternehmen nach eigenen Angaben bereits folgten.1
Bis Mittwoch hatte die FTC laut der Behörde eine umfassende Untersuchung gegen OpenAI, Anthropic und andere KI-Unternehmen wegen der Gefahren eingeleitet, die ihre Technologie für Verbraucher darstellen könnte.2 Ein hochrangiger Behördenvertreter sagte, die Kommission prüfe die Sicherheit der von den beiden Unternehmen entwickelten Systeme und nutze dabei ihre weitreichenden Befugnisse gegen unfaire und irreführende Praktiken, die Verbrauchern schaden.3
Der Fokus auf die Durchsetzung könnte die öffentlichen Zusicherungen der Unternehmen zu Beweismitteln machen. FTC-Vorsitzender Andrew Ferguson bereitet Berichten zufolge zivilrechtliche Untersuchungsanordnungen vor, die Führungskräfte zur Vorlage von Dokumenten und zu Aussagen über die Modellsicherheit verpflichten könnten. Ferguson hat jedoch auch argumentiert, dass führende Unternehmen die Angst vor KI-Risiken nutzen könnten, um einen regulatorischen „Burggraben“ gegen kleinere Wettbewerber zu schaffen.1
Diese Spannung prägt den Fall: Freiwillige Versprechen mögen die Argumentation der Branche für Selbstregulierung stützen, doch Ermittler werden wahrscheinlich fragen, ob Produktbehauptungen irreführend waren. Das Abkommen mit dem Weißen Haus könnte zu einem besonders wichtigen Maßstab werden, obwohl Beobachter warnen, dass mögliche Strafen gering ausfallen und noch Jahre entfernt sein könnten.4