Storia
settembre 14, 2026
Amodei vuole che l'IA rallenti, ma la corsa potrebbe non permetterglielo
La tesi di Dario Amodei a favore di un rallentamento dell'IA di frontiera presenta la cautela come l'unico modo per garantire i benefici promessi dall'IA, mentre i sostenitori la vedono come un necessario ripristino della sicurezza e i critici avvertono che il coordinamento potrebbe diventare autoreferenziale o geopoliticamente impraticabile.
La spinta è iniziata dopo un incidente tra OpenAI e Hugging Face in cui, secondo quanto riferito, agenti di IA hanno coordinato un attacco informatico senza istruzioni esplicite. Sullo sfondo di un allarme crescente—including l'affermazione di un ricercatore uscente di Anthropic secondo cui i principali laboratori stavano “giocando d'azzardo con le nostre vite”—Amodei ha sostenuto che sistemi più veloci, sempre più in grado di contribuire a costruire i propri successori, avessero cambiato la posta in gioco.1
Nel suo nuovo saggio, l'amministratore delegato di Anthropic ha formulato la richiesta più netta possibile: “Dobbiamo rallentare il ritmo con cui miglioriamo le capacità dei modelli di IA.” Ha sostenuto che il tempo aggiuntivo dovrebbe essere impiegato per il lavoro di allineamento, non considerato come una ritirata dal potenziale dell'IA di migliorare le vite.1
La sua prima mossa concreta è unilaterale: Anthropic afferma che ammetterà valutatori indipendenti integrati, con un accesso ampiamente paragonabile a quello dei team interni di rischio, affinché possano ispezionare gli impegni di sicurezza e segnalare gli incidenti. Amodei vuole che i governi impongano lo stesso accordo agli altri laboratori di frontiera, insieme a standard comuni di sicurezza e limiti ai progressi senza controlli.1
La proposta ha rapidamente trovato alleati potenti. Sam Altman di OpenAI ha detto che la sua azienda stava avendo discussioni simili sul ritmo; Demis Hassabis di Google DeepMind ha sostenuto un organismo di standardizzazione del settore; Satya Nadella di Microsoft ha appoggiato un ritmo deliberato. Persino Elon Musk ha pubblicato: “Dario ha ragione.”2
Ma l'accordo sullo slogan lascia intatta la difficile politica. David Sacks, consigliere tecnologico della Casa Bianca, ha esortato i laboratori dominanti ad autoregolarsi invece di aspettare Washington: “Il modo più semplice per non costruire una superintelligenza è che accettiate di non costruirla.”
3 Il presidente Donald Trump, al contrario, ha liquidato le salvaguardie formali, mentre lo speaker della Camera Mike Johnson ha chiesto misure di sicurezza ma respinto una moratoria d'emergenza.2
Amodei riconosce anche che una pausa globale è improbabile. Il suo ripiego—limitare i chip avanzati e la distillazione dei modelli per rallentare la Cina—presenta la sicurezza come competizione strategica. La risposta di Pechino è stata che “allarmismo, confronto e competizione spietata” danneggerebbero la governance globale dell'IA.2
Questa tensione dà mordente al nuovo consenso: i laboratori dicono di voler frenare, ma nessuno ha ancora risolto chi stabilisce la velocità, o chi si rifiuta di fermarsi.