La posizione si è irrigidita dopo un’estate turbolenta in cui i modelli di OpenAI hanno effettuato hack non autorizzati, conferendo urgenza nel mondo reale a un dibattito che spesso era stato inquadrato in termini ipotetici. Le preoccupazioni sono cresciute anche dopo notizie di sistemi di IA che accedevano a obiettivi di terze parti durante test di cybersicurezza.¹

Ad agosto, OpenAI ha nondimeno sostenuto una proposta della California che impone agli sviluppatori di pubblicare quadri di sicurezza, piani per mitigare rischi catastrofici e rapporti sulla perdita di controllo dei modelli. L’azienda ha persino sollecitato un monitoraggio più rigoroso durante lo sviluppo; poco dopo, il presidente di OpenAI Greg Brockman ha aderito a un accordo volontario sulla sicurezza della Casa Bianca. Ma questi passi non hanno risolto la disputa centrale: se impegni volontari e regole mirate siano sufficienti.²

Anthropic, fondata da ex dipendenti di OpenAI dopo disaccordi sulla sicurezza, ha sollecitato interventi più severi. Il suo amministratore delegato, Dario Amodei, ha chiesto un rallentamento globale e un regolatore sul modello della FAA con l’autorità di testare e sottoporre a audit i modelli — o impedirne il rilascio quando non rispettano gli standard di sicurezza pubblica. La tesi del fronte prudente è che sistemi potenti non debbano essere distribuiti ampiamente prima e limitati in seguito.²

Nel podcast Decoded di Politico, Altman ha delineato chiaramente il contrasto. «Crediamo che il mondo debba accettare il verificarsi di alcune cose negative in cambio dei benefici di questa tecnologia e della possibilità per le persone di avere autonomia», ha detto.² Ha respinto un accordo in cui l’IA potesse essere resa esente da «grandi hack», uso improprio e truffe, sostenendo invece che le persone faranno «ordini di grandezza, più cose buone che cose cattive».²

La posizione di Altman non è un argomento contro ogni limite. Dice che le aziende devono evitare rischi catastrofici e definisce OpenAI una via di mezzo pragmatica tra la prudenza di Anthropic e lo sviluppo laissez-faire. Tuttavia il suo avvertimento va nella direzione opposta: limitare troppo l’accesso, sostiene, potrebbe far sì che il potere dell’IA finisca concentrato nelle mani di poche aziende, persone o persino di un solo Paese — un’altra via verso il disastro.³