Kaliforniens Streit um KI verschärfte sich nach alarmierenden Berichten über außer Kontrolle geratene KI-Agenten und der wachsenden Überzeugung in Sacramento, dass der Kongress nicht schnell handeln würde. In den Tagen vor seiner Executive Order unterzeichnete Gouverneur Gavin Newsom Gesetze, die die Grundlage für unabhängige KI-Prüfer und Sicherheitsverifizierung schaffen, und ordnete anschließend an, ihre Einführung im Bundesstaat zu beschleunigen. Seine neue Expertengruppe hat zwei Monate Zeit, weitere Schutzmaßnahmen zu empfehlen, darunter einen Notfall-„Kill Switch“, unabhängige Prüfer vor Ort, verifizierte Transparenzberichte und die verpflichtende Meldung kritischer Sicherheitsvorfälle.¹

Newsom stellte den Schritt sowohl als Sicherheitsmaßnahme als auch als Rüge an Washington dar. „Wir warten nicht darauf, zu handeln“, sagte er und versprach Aufsicht mit „dringlicher Geschwindigkeit“, weil „der Einsatz zu hoch ist, um zu warten“.¹ Die Anordnung zieht die Umsetzung zweier Gesetze zu Prüfungen und Transparenz vor; ein Rahmenwerk soll nun 2027 statt 2028 fällig werden, und auch das Register staatlicher Prüfer wird vorgezogen.²

Der Gouverneur argumentiert, Kalifornien müsse zum nationalen Mindeststandard werden, solange die Bundesgesetzgebung feststecke. Ein Senatsvorschlag für eine landesweite Pflicht zur Notabschaltung wurde blockiert, während die KI-Politik der Trump-Regierung die Durchsetzung bestehender Gesetze betont hat, statt ein neues Regulierungssystem aufzubauen.¹

Diese Dringlichkeit wird nicht überall geteilt. David Sacks verbreitete eine Umfrage, der zufolge Wähler in Kalifornien KI und Rechenzentren nur an neunter Stelle ihrer Sorgen einordnen – hinter Lebenshaltungskosten, Wohnraum und Demokratie. Dies ist eine Warnung, dass politische Strategen die unmittelbare Anziehungskraft des Themas bei Wahlen möglicherweise übertreiben.David Sacks (DavidSacks)³ Sacks hat zudem argumentiert, dass Unternehmen die Verantwortung für sichere KI selbst tragen müssen, statt sie auf die Regierung abzuwälzen.¹

Stimmen aus der Branche sind beim Mittel uneins, nicht immer bei der Gefahr. Nvidia-Chef Jensen Huang nannte Sicherheit „oberste Priorität“, sagte jedoch: „Wir brauchen keine neuen Gesetze. Wir brauchen keine neuen Vorschriften.“ Elon Musk unterstützte dagegen, dass Wettbewerber die Modelle der jeweils anderen testen, weil „es schwierig ist, wenn man seine eigenen Hausaufgaben bewertet“.¹

Newsom hat die Debatte auch über Fehler bei Frontier-Modellen hinaus ausgeweitet. Ein separates Maßnahmenpaket verpflichtet Rechenzentren, für lokale Modernisierungen von Stromnetz und Wassersystemen zu zahlen, den voraussichtlichen Wasserverbrauch offenzulegen und Ressourcenstandards einzuhalten – seine Antwort an Gemeinden, die mit den physischen Kosten des KI-Booms konfrontiert sind.⁴