Die Debatte verschärfte sich, nachdem Warnungen vor immer leistungsfähigeren KI-Systemen – und Berichte über Sicherheitsverletzungen und Agenten, die Kontrollen umgehen – Sicherheit von einem theoretischen zu einem politischen Thema machten. Bis zum 12. September forderte Elon Musk Wettbewerber dazu auf, die Modelle der jeweils anderen zu testen, und argumentierte, dass Selbstkontrolle offensichtliche blinde Flecken habe: „Es ist schwierig, wenn man die eigene Arbeit bewertet.“¹

Drei Tage später formulierte Nvidia-Chef Jensen Huang eine andere Art von Vorsicht. Sicherheit sei, so sagte er, eine technische Verpflichtung: Unternehmen sollten Produkte erst veröffentlichen, wenn sie von ihnen überzeugt seien. Doch Huangs Schlussfolgerung wich deutlich von Sacramentos entstehendem Ansatz ab: „Wir brauchen keine neuen Gesetze. Wir brauchen keine neuen Vorschriften.“¹

Am 18. September bewegte Gouverneur Gavin Newsom Kalifornien in Richtung Regulierung. Seine Executive Order gibt Experten zwei Monate Zeit, stärkere staatliche Schutzmaßnahmen für fortgeschrittene KI zu empfehlen, darunter unabhängig verifizierte Prüfungen, standardisierte Transparenz- und Risikoberichte, die verpflichtende Meldung schwerwiegender Sicherheitsvorfälle und einen möglicherweise vorgeschriebenen Notfall-„Kill Switch“. Die Anordnung beschleunigt zudem die Umsetzung von Kaliforniens neuem Rahmen für unabhängige KI-Prüfer und eines Registers für Auditoren.²

Newsom stellte den Schritt als Antwort auf Washingtons Lähmung dar und erklärte, das „völlige Versagen“ der Bundesregierung, eine sinnvolle Aufsicht zu schaffen, „sollte jeden Amerikaner alarmieren“. Kalifornien werde, so sagte er, „überlegt, aber mit dringlicher Geschwindigkeit“ handeln.³

Der Konflikt verläuft nicht bloß zwischen Befürwortern von Vorsicht und Beschleunigung. Die Trump-Regierung hat die Durchsetzung bestehender Gesetze bevorzugt und die KI-Sicherheit weitgehend den Unternehmen überlassen; KI-Beauftragter David Sacks sagte, Firmen müssten „das Verantwortungsbewusstsein verinnerlichen“, statt es anderswohin zu verlagern.¹ Auch der Widerstand im Kongress bleibt sichtbar: Senator Rand Paul wandte sich gegen ein Gesetz zu einem Notfall-Kill-Switch und sagte, Regulierung könne zu früh kommen und die Technologie ausbremsen.

Newsoms Wette lautet, dass Kaliforniens Regeln zum nationalen Mindeststandard werden können. Die Wette seiner Kritiker lautet, dass Vorgaben sich als langsamer, gröber und weniger wirksam erweisen könnten als die Branchendisziplin, der der Gouverneur nicht länger zutraut, allein auszureichen.