L'amministratore delegato di Anthropic, Dario Amodei, ha trasformato un dibattito sulla sicurezza già acceso in una richiesta concreta: le aziende di IA di frontiera dovrebbero rallentare deliberatamente il ritmo con cui rendono i loro modelli più capaci.

In un saggio pubblicato sabato, Amodei ha sostenuto che spendere di più in misure di protezione non è più sufficiente perché l'IA sta diventando più abile nell'aiutare a costruire i propri successori. «Dobbiamo rallentare il ritmo con cui miglioriamo le capacità dei modelli di I.A.», ha scritto, sostenendo che più tempo potrebbe consentire al lavoro sull'allineamento e sulla sicurezza di recuperare terreno.¹ Ha avvertito che un progresso senza controlli potrebbe superare la capacità dell'umanità di comprendere e controllare questi sistemi.²

L'impegno immediato di Anthropic consiste nel garantire a valutatori indipendenti un accesso permanente, al livello dei dipendenti, ai suoi sistemi, compresa la possibilità di valutare le pratiche di sicurezza e segnalare gli incidenti. Amodei lo ha presentato come la prima parte di un piano in tre fasi: supervisione esterna, standard condivisi tra aziende nei Paesi democratici e un eventuale coordinamento con governi autoritari su pericoli definiti in modo circoscritto. Ha annunciato personalmente la mossa su X.Dario Amodei (DarioAmodei)³

L'urgenza segue la crescente preoccupazione per gli incidenti di sicurezza degli agenti IA e le dimissioni pubbliche del ricercatore di Anthropic Jacob Coxon, che ha affermato che i principali laboratori stavano «scommettendo sulle nostre vite» in una corsa verso una superintelligenza capace di migliorarsi da sola.⁴ Amodei ha suggerito che un rallentamento anche di uno o due anni potrebbe ridurre sostanzialmente le probabilità di una catastrofe.²

La risposta dei rivali è stata sorprendentemente favorevole. Il capo di OpenAI Sam Altman ha affermato di essere d'accordo sul ritmo della frontiera, mentre Elon Musk ha offerto un sostegno netto: «Dario ha ragione».Elon Musk (elonmusk)⁵ David Sacks, nel frattempo, ha detto che Anthropic e OpenAI dovrebbero procedere proprio perché costituiscono un «duopolio» dell'IA di frontiera.David Sacks (DavidSacks)⁶

Ma l'apparente consenso nasconde una forte controversia. I critici dei messaggi sul rischio esistenziale sostengono che un patto per la sicurezza guidato dai due maggiori laboratori potrebbe trasformarsi in cattura normativa, anziché in una protezione pubblica significativa.⁷ E il piano di Amodei affronta la sua prova più dura all'estero: riconosce che le aziende statunitensi non possono limitarsi indefinitamente se gli sviluppatori cinesi continuano ad avanzare, rendendo i controlli sui chip e accordi limitati tra Stati Uniti e Cina centrali per qualsiasi rallentamento praticabile.²