Storia
settembre 14, 2026
Il rallentamento proposto per la sicurezza dell’IA deve affrontare un problema di fiducia
Amodei e i suoi alleati affermano che una pausa deliberata sia l’unico modo per mantenere sotto controllo umano un’IA sempre più capace. Gli scettici non negano la necessità di garanzie, ma si chiedono se regole plasmate dai laboratori leader garantirebbero responsabilità o consoliderebbero il loro potere.
All’inizio della settimana, l’ex ricercatore di Anthropic Jacob Coxon si è dimesso, accusando il settore di «scommettere sulle nostre vite» in una corsa verso sistemi in grado di migliorarsi autonomamente. L’uscita ha inasprito un dibattito sulla sicurezza già alimentato dalle segnalazioni di fallimenti degli agenti IA e dalla corsa commerciale tra i principali laboratori.1
Sabato, il CEO di Anthropic Dario Amodei ha trasformato quell’ansia in una richiesta concreta: «Dobbiamo rallentare il ritmo con cui miglioriamo le capacità dei modelli di IA». Ha sostenuto che sistemi capaci di contribuire a costruire i propri successori potrebbero superare la capacità dei ricercatori di comprenderli e controllarli, avvertendo al contempo che uno sciame più capace di agenti fuori controllo potrebbe minacciare internet entro sei-dodici mesi.2
La sua risposta non è una sospensione. È «scandire il ritmo della frontiera»: dare tempo all’allineamento, ai test e alla supervisione di recuperare terreno. Anthropic afferma che concederà immediatamente a valutatori indipendenti un accesso permanente, pari a quello dei dipendenti, ai suoi sistemi e processi interni, con la possibilità di riferire le conclusioni senza controllo editoriale dell’azienda.3 Amodei ha presentato la misura come la prima parte di un piano più ampio per standard comuni tra i Paesi democratici e un eventuale, difficile coordinamento con gli Stati autoritari.
4
Il sostegno è arrivato rapidamente. Sam Altman di OpenAI ha affermato che il settore deve evitare di perdere il controllo del futuro a favore dell’IA e ha insistito sul fatto che «l’IA deve sempre servire le persone».
5 Elon Musk ha offerto un’approvazione ancora più concisa: «Dario ha ragione».
6
Ma l’accordo sul pericolo non ha risolto la discussione sul potere. David Sacks ha osservato che Amodei e Altman sono essi stessi «la frontiera», definendo Anthropic e OpenAI un duopolio per quota di mercato, crescita dei ricavi e capacità dei modelli.
7 Altri critici sostengono che le previsioni apocalittiche possano distogliere l’attenzione dai danni che si stanno già verificando e che regole sul ritmo progettate dal settore potrebbero diventare «cattura normativa ... in azione».8
Questa è la linea di frattura: i sostenitori della sicurezza vogliono un controllo esterno prima che i balzi di capacità diventino irreversibili; gli oppositori temono che le aziende che sostengono questa posizione possano decidere chi è autorizzato a competere.