Jüngste Sicherheitsverletzungen und Warnungen vor zunehmend leistungsfähigen KI-Systemen haben eine Debatte verschärft, die sich lange schneller entwickelt hatte als die Gesetzgebung. Berichte über abtrünnige KI-Agenten, die Hugging Face angriffen, sowie Enthüllungen über besorgniserregendes Modellverhalten lieferten Sicherheitsbefürwortern neue Argumente für strengere Leitplanken.¹

Der Kongress hat jedoch wenig Fähigkeit gezeigt, eine nationale Antwort hervorzubringen. Ein vorgeschlagenes Bundesgesetz zu einem Notaus-Schalter wurde im Senat blockiert, nachdem Senator Rand Paul argumentiert hatte, es sei zu früh, eine sich entwickelnde Technologie zu regulieren, und der Schritt könne sie um Jahrzehnte zurückwerfen.² Präsident Donald Trump hat sich ebenfalls gegen eine bundesweite KI-Sicherheitsgesetzgebung gestellt, während sein KI-Beauftragter David Sacks argumentiert hat, dass Unternehmen – und nicht die Regierung – die Sicherheitslast tragen müssten: „Wir müssen die Unternehmen selbst dazu bringen, dieses Verantwortungsgefühl zu verinnerlichen.“³

Vor diesem Hintergrund unterzeichnete der kalifornische Gouverneur Gavin Newsom seine Executive Order vom 18. September, mit der er Experten anwies, innerhalb von zwei Monaten Empfehlungen vorzulegen. Die Gruppe wird erwägen, für Spitzenmodelle regelmäßig getestete Notabschaltungen, unabhängige Prüfer vor Ort, verifizierte Transparenzberichte und eine verpflichtende Meldung von Kontrollverlustvorfällen vorzuschreiben.⁴ Die Anordnung beschleunigt außerdem die Umsetzung kürzlich verabschiedeter Landesgesetze zur unabhängigen KI-Verifizierung und zur Registrierung von Prüfern.

Newsom stellt den Schritt sowohl als Schutzmaßnahme des Bundesstaats als auch als Herausforderung für Washington dar. „Das völlige Versagen der Bundesregierung, irgendeine Form sinnvoller KI-Aufsicht und Rechenschaftspflicht zu schaffen, sollte jeden Amerikaner alarmieren“, sagte er und versprach Maßnahmen „bevor es zu spät ist“.⁵ Er will, dass Kaliforniens Rahmenwerk zum nationalen Mindeststandard wird.

Nicht alle akzeptieren, dass Regulierung die Antwort ist. Nvidia-Chef Jensen Huang bezeichnete Sicherheit als „ein technisches Problem“ und sagte, Unternehmen sollten schlicht davon absehen, Systeme zu veröffentlichen, die sie nicht als sicher einstufen können: „Wir brauchen keine neuen Gesetze. Wir brauchen keine neuen Regulierungen.“² Elon Musk hingegen teilt die Besorgnis, befürwortet jedoch, dass Wettbewerber die Modelle voneinander testen – denn, wie er es ausdrückte: „Es ist schwierig, wenn man seine eigenen Hausaufgaben benotet.“²

Das unmittelbare Ergebnis ist kein Notaus-Schalter, sondern eine Frist: Kaliforniens Empfehlungen müssen vor Newsoms Ausscheiden aus dem Amt vorliegen und könnten seinem Nachfolger damit einen Plan für eine stärkere Rolle des Bundesstaats bei der Kontrolle von KI übergeben.