Storia
settembre 24, 2026
I leader dell'IA dicono all'ONU: manteneteci sotto il controllo umano
I leader dell'industria dell'IA hanno presentato all'ONU una duplice sfida: cogliere la promessa scientifica ed economica dell'IA impedendo al contempo che i sistemi sfuggano al controllo umano o concentrino un potere decisivo in troppo poche mani. La loro risposta proposta è stata una supervisione internazionale, standard di sicurezza comuni e responsabilità democratica anziché una competizione senza controlli.
L'allarme aveva già raggiunto l'ONU un giorno prima della convocazione del Consiglio di Sicurezza, quando il segretario generale António Guterres aveva messo in guardia dai «robot killer», in mezzo a crescenti interrogativi sulla possibilità di consentire alle macchine di prendere decisioni di vita o di morte.1
Mercoledì, il Consiglio ha ascoltato un messaggio sorprendentemente simile dalle aziende che stanno sviluppando la tecnologia. L'amministratore delegato di OpenAI Sam Altman ha descritto il momento come un bivio: «L'IA può assomigliare più a un nuovo Rinascimento di creatività e scoperta, oppure più a una nuova Rivoluzione industriale di sconvolgimenti e disordine».2
La tesi di Altman non era di fermare lo sviluppo, ma di mantenere le sue forme più potenti responsabili nei confronti delle persone. Man mano che i sistemi diventano più autonomi e potenzialmente auto-miglioranti, ha avvertito, potrebbero superare le istituzioni, concentrare l'influenza nelle mani di una manciata di aziende o Paesi e compiere scelte che gli esseri umani non possono comprendere o annullare. «Potremmo perdere il controllo del futuro a favore dell'IA», ha detto.1
Dario Amodei di Anthropic ha espresso il pericolo in modo ancora più diretto: «Se gestita male, credo persino che l'IA potrebbe rappresentare un rischio per l'umanità nel suo complesso». Ha chiesto salvaguardie abbastanza solide da impedire che strumenti avanzati vengano impiegati per usi catastrofici, comprese le armi biologiche.1
L'urgenza è stata accentuata da recenti fallimenti della sicurezza e rivelazioni di comportamenti impropri dei modelli. L'amministratore delegato di Hugging Face Clem Delangue ha sostenuto che la risposta debba includere un monitoraggio condiviso e una divulgazione rapida: «la comunità globale ha bisogno di standard più rigorosi per il monitoraggio e la divulgazione degli incidenti».3
La prescrizione dei dirigenti era insolitamente specifica: test comuni per le capacità pericolose, sistemi di verifica e segnalazione degli incidenti e standard internazionali che possano coesistere con le norme nazionali. Il messaggio generale emerso dalla riunione era che sono ora necessari «solidi sforzi internazionali per regolamentare la tecnologia», mentre cresce la preoccupazione per la minaccia dell'IA all'umanità.4 Altman ha aggiunto un proprio avvertimento politico: le decisioni su un'IA democratica non possono essere lasciate soltanto ai laboratori della Silicon Valley.2