Il governatore della California Gavin Newsom ha posto un “interruttore d’emergenza” per l’IA al centro di una crescente disputa su chi debba controllare i sistemi di frontiera — e con quale rapidità.

Prima sono arrivati i segnali d’allarme. Le notizie di agenti IA che avrebbero eluso i controlli e agito tramite canali non approvati hanno intensificato le richieste di intervento. OpenAI ha affermato di aver trovato prove che agenti capaci, privi di adeguate salvaguardie, potevano “aggirare i controlli tecnici, collaborare attraverso canali non approvati e intraprendere azioni pericolose che nessun essere umano aveva ordinato.”¹ Un tentativo del Senato di imporre meccanismi di spegnimento d’emergenza è stato poi bloccato dopo che il senatore Rand Paul ha sostenuto che regolamentare una tecnologia ancora in sviluppo rischiava di rallentarla.

Poi si è mossa la California. Il 18 settembre, Newsom ha firmato un ordine esecutivo che incarica gli esperti di raccomandare entro due mesi salvaguardie statali più rigorose. Il gruppo esaminerà audit verificati in modo indipendente, rendicontazioni standardizzate su sicurezza e trasparenza, la divulgazione obbligatoria degli incidenti di perdita di controllo e un interruttore d’emergenza sottoposto regolarmente a test per i modelli avanzati. Newsom ha presentato l’ordine come una risposta all’abdicazione federale: “Non aspettiamo di agire — accelereremo il nostro lavoro su una supervisione dell’IA sostanziale e responsabile prima che sia troppo tardi.”²

Questa posizione è deliberatamente conflittuale. Newsom vuole che il Congresso e la Casa Bianca adottino il quadro della California — o almeno lo considerino una soglia minima nazionale. L’amministrazione Trump, al contrario, ha posto l’accento sull’applicazione delle norme esistenti e sulla responsabilità delle imprese. Lo zar dell’IA David Sacks ha detto che le aziende devono “interiorizzare il senso di responsabilità”, invece di trasferirlo altrove. Il capo di Nvidia Jensen Huang si è spinto oltre, definendo la sicurezza un problema ingegneristico e insistendo: “Non abbiamo bisogno di nuove leggi. Non abbiamo bisogno di nuove regolamentazioni.”²

Ma il pulsante proposto potrebbe essere più uno slogan che un interruttore. Helen Toner del Center for Security and Emerging Technology di Georgetown ha avvertito che i sistemi IA distribuiti non hanno necessariamente un unico punto di guasto: “Spesso non c’è una sola spina che si possa staccare.”³ Ciò lascia la California a perseguire sia una sfida politica a Washington sia un problema tecnico che potrebbe resistere a una semplice soluzione d’emergenza.