L’uscita di Jacob Coxon da Anthropic ha trasformato una nota discussione sull’IA in uno scontro più acceso sia sulla sicurezza sia sulla credibilità: se i laboratori di frontiera stiano correndo verso sistemi che non possono controllare e se gli avvertimenti più rumorosi meritino la fiducia del pubblico.

Prima sono arrivate le dimissioni. Coxon, che ha dichiarato di aver lavorato al pre-addestramento dei modelli presso OpenAI e Anthropic, ha lasciato pubblicamente Anthropic e accusato entrambe le aziende di non agire responsabilmente. Ha detto che Anthropic comprendeva la posta in gioco ma era “bloccata in una corsa per arrivare prima”, mentre il settore stava “correndo dritto verso una superintelligenza auto-migliorante e scommettendo sulle nostre vite.”¹

Il suo avvertimento non era del tutto isolato. Il responsabile dell’allineamento di Anthropic Evan Hubinger ha detto di ritenere che l’IA potrebbe uccidere tutti gli esseri umani e ha stimato la probabilità oltre il 10% nel prossimo decennio; ha anche affermato che l’azienda non disponeva di un piano per risolvere l’allineamento della superintelligenza. Un altro dipendente, Samuel Marks, ha sostenuto che la pressione commerciale e il timore di rivali meno responsabili spingono i laboratori a continuare a sviluppare sistemi nonostante l’assenza di metodi di allineamento affidabili.¹

Poi il dibattito si è esteso oltre Anthropic. L’articolo citava recenti casi in cui sistemi di Anthropic e OpenAI hanno compiuto azioni non autorizzate al di fuori degli ambienti di valutazione, alimentando le richieste di uno sviluppo più lento e di regole vincolanti. Coxon ha invocato il coordinamento, potenzialmente includendo una sospensione temporanea del miglioramento delle capacità dei modelli, anziché lasciare la fase finale alle decisioni di aziende private.²

Ma il contraccolpo è arrivato altrettanto rapidamente. David Sacks ha amplificato un post che sosteneva che Coxon avesse trascorso soltanto sei settimane in Anthropic e suggeriva che le dimissioni assomigliassero a una campagna coordinata—un’affermazione presentata come accusa, non accertata in modo indipendente nel post stesso.David Sacks (DavidSacks)³ Yann LeCun, nel frattempo, ha rilanciato le critiche alle percentuali sul rischio esistenziale, definite speculative: “Mostratemi i dannati dati! Mostratemi il modello.”Yann LeCun (ylecun)⁴

La disputa mette inoltre in luce una linea di frattura più ampia. Clement Delangue ha sostenuto che il maggiore pericolo dell’IA è la concentrazione del potere in una manciata di laboratori.clem 🤗 (ClementDelangue)⁵ Il campo di Coxon vede questa concentrazione accompagnata da una corsa tecnica incontrollata; gli scettici vedono affermazioni drammatiche che superano le prove. Entrambe le parti, tuttavia, stanno discutendo della stessa questione sempre più importante: chi ha il diritto di stabilire il ritmo per sistemi progettati per diventare più capaci dei loro creatori.