Storia
settembre 13, 2026
Anthropic sollecita un rallentamento dell'IA mentre i rivali sostengono i controlli di sicurezza
Anthropic sostiene che una corsa all'IA in rapida accelerazione richieda ora una moderazione verificabile, mentre rivali di primo piano concordano in linea generale sulla necessità di una supervisione più rigorosa. Gli scettici, tuttavia, vedono il rischio che le regole di sicurezza scritte dai laboratori di frontiera possano proteggere il loro potere di mercato quanto il pubblico.
Il dibattito si è inasprito dopo una serie di allarmanti incidenti con agenti e il crescente dissenso interno ad Anthropic. Il ricercatore Jacob Coxon si è dimesso pubblicamente, accusando i principali laboratori di correre verso sistemi auto-miglioranti mentre «scommettono sulle nostre vite»; il responsabile della sicurezza di Anthropic Evan Hubinger ha sostenuto l'avvertimento, affermando di ritenere che la probabilità che l'IA possa uccidere tutti gli esseri umani entro un decennio superi il 10%.1
In questo contesto, sabato l'amministratore delegato di Anthropic Dario Amodei ha pubblicato il suo appello a «cadenzare la frontiera». La sua proposta in tre parti chiede ai laboratori di frontiera di insediare valutatori indipendenti con accesso permanente equivalente a quello dei dipendenti; ai governi democratici e alle aziende di stabilire standard di sicurezza condivisi che limitino i progressi senza controlli; e agli Stati di cercare accordi circoscritti con governi autoritari, anche sulle armi biologiche abilitate dall'IA. Anthropic afferma che adotterà immediatamente il passo dei valutatori integrati.
2
L'urgenza di Amodei si basa sia sull'accelerazione delle capacità dei modelli sia sui recenti incidenti informatici. Ha avvertito che, entro sei-dodici mesi, uno sciame di agenti sempre più capaci potrebbe potenzialmente assumere il controllo di internet tramite una botnet persistente, infliggendo enormi danni economici. «Dobbiamo rallentare il ritmo con cui miglioriamo le capacità dei modelli di IA», ha scritto.3
La risposta dei concorrenti è stata insolitamente allineata. Il capo di OpenAI Sam Altman ha dichiarato: «Concordo con Dario sul fatto che dobbiamo cadenzare la frontiera», e ha promesso valutatori terzi con accesso equivalente a quello dei dipendenti. Anche Clement Delangue di Hugging Face e Andrej Karpathy, ex dirigente di OpenAI e Tesla, hanno sostenuto la spinta per misure di protezione comuni.4 Elon Musk, solitamente antagonista di Altman, ha offerto il sostegno più conciso: «Dario ha ragione».
5
Tuttavia, l'accordo sulla diagnosi non risolve lo scontro politico. I critici sostengono che gli avvertimenti sul rischio esistenziale possano oscurare i danni attuali dell'IA e che un regime costruito attorno alla supervisione preferita dai principali laboratori possa trasformarsi in cattura regolatoria: regole che legittimano Anthropic e OpenAI innalzando al contempo le barriere per i concorrenti più piccoli.6 La questione centrale è se l'industria possa davvero frenare insieme, o se la paura dei rivali — e della Cina — mantenga l'acceleratore premuto.