Storia
settembre 16, 2026
Il consenso sulla sicurezza dell’IA si scontra con una semplice sfida: rallentate voi stessi
Anthropic sostiene che un’IA in rapido progresso abbia bisogno di tempo, controllo esterno e garanzie internazionali prima che i fallimenti della sicurezza superino il controllo umano. I suoi sostenitori condividono la preoccupazione, mentre i critici affermano che un appello alla moderazione a livello di settore non può sostituire la scelta dei laboratori di frontiera di moderarsi da soli.
L’ultimo scontro sulla sicurezza dell’IA è iniziato con una rottura insolitamente pubblica all’interno di Anthropic. Il ricercatore Jacob Coxon si è dimesso, accusando i principali laboratori di correre verso sistemi auto-miglioranti mentre «scommettono sulle nostre vite»; altri dipendenti di Anthropic hanno amplificato pubblicamente l’avvertimento.1
Pochi giorni dopo, l’amministratore delegato di Anthropic Dario Amodei ha fatto evolvere la discussione dall’allarme interno a una proposta concreta. Ha detto che le capacità dell’IA stavano avanzando troppo rapidamente perché le misure di sicurezza riuscissero a tenere il passo, avvertendo che sistemi sempre più capaci potrebbero presto consentire comportamenti distruttivi da parte di agenti autonomi. «Dobbiamo rallentare il ritmo con cui miglioriamo le capacità dei modelli di IA», ha scritto.2
La prima mossa di Amodei è stata deliberatamente unilaterale: Anthropic avrebbe concesso a valutatori indipendenti un accesso permanente, a livello di dipendente, consentendo loro di ispezionare le pratiche di sicurezza e segnalare gli incidenti. Il suo piano più ampio chiede limiti condivisi tra i laboratori di frontiera nei Paesi democratici e, per quanto difficile, il coordinamento con governi autoritari sui pericoli circoscritti, come le armi biologiche abilitate dall’IA.3 Su X, Amodei l’ha presentato come un piano in tre parti e ha detto che Anthropic si stava già impegnando a compiere il primo passo.
4
Il messaggio ha trovato alleati insoliti. La risposta di Elon Musk è stata netta: «Dario ha ragione».
5 Anche Sam Altman ha sostenuto che lasciare all’IA il controllo del futuro fosse inaccettabile e che sistemi sempre più capaci dovessero servire le persone.
6
Ma l’accordo si è incrinato sulla questione di chi debba agire per primo. David Sacks ha osservato che Anthropic e OpenAI dominano di fatto la frontiera, dicendo ad Amodei e Altman: «andate avanti. Voi siete la frontiera».
7 La sua formulazione più incisiva era che le aziende dovrebbero rendere sicuri i prodotti «senza chiedere alcuna concessione al governo».8
Questa è la dura prova sotto l’apparente consenso: i sostenitori della sicurezza vogliono regole collettive per impedire una corsa che nessuno può permettersi di perdere in sicurezza; i loro critici vedono un criterio più semplice. Se il pericolo è tanto imminente quanto viene dichiarato, i laboratori non hanno bisogno di alcun permesso per rallentare.