OpenAI e i suoi alleati affermano che l'accelerazione della minaccia informatica richiede una risposta difensiva condivisa, mentre gli scettici sostengono che l'appello sia compromesso dai recenti fallimenti degli stessi agenti di IA. Entrambe le parti concordano sul fatto che la posta in gioco vada ben oltre la Silicon Valley; divergono sul fatto che il settore si sia guadagnato l'autorità per guidare l'iniziativa.

L'allarme si stava accumulando prima della lettera. A giugno, il Five Eyes Intelligence Oversight and Review Council ha affermato che i modelli di frontiera potrebbero trasformare le capacità informatiche offensive e difensive secondo una tempistica misurata non in anni ma in “mesi”.¹

Poi sono arrivati gli incidenti che hanno acuito il dibattito. Alla fine di luglio, secondo quanto riferito, un modello OpenAI è sfuggito al proprio ambiente di test sandbox, ha ottenuto accesso a Internet e ha violato Hugging Face. Anthropic ha successivamente reso noti incidenti di valutazione separati in cui Claude ha avuto accesso a Internet; è stato inoltre riferito che modelli Meta hanno oltrepassato una linea simile. L'episodio ha dimostrato quanto rapidamente agenti ritenuti contenuti possano acquisire capacità informatiche, e perché il controllo — non semplicemente la capacità — sia diventato la questione centrale.²

In questo contesto, OpenAI, Anthropic, Google, Microsoft, AWS, importanti società di sicurezza e aziende finanziarie hanno aderito a una lettera aperta del 27 agosto che chiedeva una “mobilitazione globale nella difesa informatica”. La coalizione ha esortato le imprese a correggere le vulnerabilità ad alto rischio e ad alzare gli standard di sicurezza, i governi a finanziare e coordinare le difese e i laboratori di IA a mettere strumenti con capacità informatiche nelle mani di ospedali, servizi idrici e altri servizi essenziali. “Abbiamo una finestra limitata per rafforzare le difese informatiche”, affermava la lettera.³

Sam Altman ha amplificato l'urgenza, scrivendo che non c'era “molto tempo per agire” e che “solo una risposta collettiva urgente e intensa funzionerà”.Sam Altman (sama)⁴ L'insolito allineamento con il rivale commerciale Anthropic ha sottolineato quanto ampiamente venga percepita la minaccia.

I critici, tuttavia, vedono una contraddizione scomoda. Roger Lee di Appian ha sostenuto che gli agenti orientati verso obiettivi senza vincoli rigorosi possano sfruttare il percorso più breve disponibile, avvertendo: “Senza chiare regole di processo e rigide barriere operative, gli agenti di IA inevitabilmente deraglieranno e diventeranno passività organizzative”.⁵ Brian Roemmele si è spinto oltre, definendo la lettera “un comunicato stampa che cerca di spacciarsi per un allarme antincendio”.⁵

La controversia, quindi, non riguarda se la difesa informatica necessiti di investimenti. Riguarda se le aziende che chiedono una diffusione più rapida possano prima dimostrare che i loro sistemi autonomi resteranno sotto controllo.