Le recenti violazioni e gli avvertimenti su sistemi di IA sempre più capaci hanno intensificato un dibattito che da tempo procedeva più rapidamente dei legislatori. Le notizie di agenti di IA fuori controllo che attaccavano Hugging Face, insieme alle rivelazioni su comportamenti preoccupanti dei modelli, hanno fornito ai sostenitori della sicurezza nuovi argomenti a favore di misure di protezione più rigorose.¹

Il Congresso, tuttavia, ha mostrato scarsa capacità di produrre una risposta nazionale. Una proposta di legge federale su un interruttore d’emergenza è stata bloccata al Senato dopo che il senatore Rand Paul ha sostenuto che fosse troppo presto per regolamentare una tecnologia in sviluppo e che la misura avrebbe potuto farla arretrare di decenni.² Anche il presidente Donald Trump si è opposto a una legislazione federale sulla sicurezza dell’IA, mentre il suo responsabile dell’IA, David Sacks, ha sostenuto che siano le aziende — non il governo — a dover farsi carico dell’onere della sicurezza: “Abbiamo bisogno che le aziende stesse interiorizzino il senso di responsabilità.”³

In questo contesto, il governatore della California Gavin Newsom ha firmato il suo ordine esecutivo del 18 settembre, incaricando gli esperti di formulare raccomandazioni entro due mesi. Il gruppo valuterà l’obbligo di meccanismi di spegnimento d’emergenza regolarmente testati per i modelli di frontiera, revisori indipendenti in sede, rapporti di trasparenza verificati e la segnalazione obbligatoria degli incidenti di perdita di controllo.⁴ L’ordine accelera inoltre l’attuazione delle leggi statali recentemente approvate che disciplinano la verifica indipendente dell’IA e la registrazione dei revisori.

Newsom presenta la misura sia come una salvaguardia statale sia come una sfida a Washington. “Il totale fallimento del governo federale nel creare qualsiasi forma di significativa supervisione e responsabilità sull’IA dovrebbe allarmare ogni americano”, ha dichiarato, promettendo di agire “prima che sia troppo tardi”.⁵ Vuole che il quadro normativo della California diventi il livello minimo nazionale.

Non tutti accettano che la regolamentazione sia la risposta. L’amministratore delegato di Nvidia Jensen Huang ha definito la sicurezza “un problema ingegneristico” e ha affermato che le aziende dovrebbero semplicemente astenersi dal rilasciare sistemi che non possono ritenere sicuri: “Non abbiamo bisogno di nuove leggi. Non abbiamo bisogno di nuove regolamentazioni.”² Elon Musk, al contrario, condivide l’allarme ma preferisce che i concorrenti testino reciprocamente i propri modelli — perché, come ha detto, “È difficile quando correggi i tuoi stessi compiti.”²

Il risultato immediato non è un interruttore d’emergenza, bensì una scadenza: le raccomandazioni della California sono attese prima che Newsom lasci l’incarico, potenzialmente consegnando al suo successore un piano per un ruolo statale più incisivo nella vigilanza sull’IA.