Nei giorni precedenti all'incontro alla Casa Bianca, il dibattito del settore sulla sicurezza si stava già dividendo. OpenAI aveva sospeso l'addestramento e il rilascio di un modello avanzato dopo che non aveva superato i suoi standard di sicurezza, mentre Dario Amodei di Anthropic aveva esortato i principali laboratori a rallentare. Il presidente Donald Trump sosteneva la posizione opposta: gli Stati Uniti non potevano permettersi di frenare una tecnologia che, a suo dire, sarebbe stata «più grande della rivoluzione industriale».¹

L'incontro di martedì ha portato alla Casa Bianca dirigenti tra cui Amodei, Mark Zuckerberg di Meta, Sundar Pichai di Google, Greg Brockman di OpenAI, Elon Musk di xAI e Jensen Huang di Nvidia. Trump ha anche promosso la sua ridenominazione preferita — «super intelligence», o SI — e ha annunciato un accordo volontario per il settore, definendolo «moralmente vincolante».²

L'accordo colloca la prima linea di difesa all'interno delle stesse aziende: monitoraggio dei modelli di frontiera per rischi informatici, biologici e chimici; un team interno incaricato di verificare tali controlli; valutatori esterni; e un comitato del consiglio di amministrazione che riceva i risultati. I firmatari promettono inoltre di incontrarsi regolarmente per definire standard di sicurezza e migliori pratiche. Il documento ammette che queste misure potrebbero alla fine essere recepite nella legge, ma non lo impone.²

Per Trump e i sostenitori aziendali dell'accordo, questa flessibilità è il punto centrale. Trump ha affermato che le aziende «devono autoregolamentarsi», mentre Zuckerberg ha descritto l'impegno a livello dell'intero settore verso controlli interni e audit a più livelli come un «significativo passo positivo» che dovrebbe rafforzare la fiducia del pubblico.Mark Zuckerberg (finkd)³ Ha inoltre definito l'accordo un inizio, piuttosto che l'ultima parola sulla sicurezza dell'IA.⁴

Gli scettici sostengono che la struttura formalizzi semplicemente lo status quo. Le aziende scelgono e pagano i valutatori, definiscono cosa significhi per i sistemi comportarsi «come previsto» e non rischiano alcuna sanzione dichiarata per il mancato rispetto dell'impegno. Una critica ha definito l'accordo un avallo della Casa Bianca all'«autoregolamentazione» che non offre né trasparenza pubblica né un'applicazione indipendente.⁵

Questa lacuna è ora la linea di frattura politica: i leader del settore salutano una base comune senza rallentare la corsa degli Stati Uniti contro la Cina; critici e legislatori affermano che non si può lasciare alle aziende che avvertono del ritardo delle salvaguardie il compito di scrivere — e valutare — le proprie regole.⁴