Storia
ottobre 6, 2026
L’audizione sull’IA di New York mette in luce un vuoto nella sicurezza mentre i whistleblower avvertono che la corsa è iniziata
I funzionari di New York City sostengono che le potenti aziende di IA debbano al pubblico risposte chiare e verificabili sui rischi catastrofici, mentre ex addetti ai lavori affermano che la corsa del settore a costruire sistemi più capaci ha superato la sua cultura della sicurezza. I rappresentanti delle aziende sostengono che i rischi inaccettabili non debbano essere tollerati, ma hanno faticato a spiegare come tali rischi vengano misurati o contenuti.
Lo scontro si stava preparando da settimane. Con l’intensificarsi dell’attenzione sui laboratori di IA di frontiera, la presidente del Consiglio comunale Julie Menin ha convocato una rara audizione della Commissione plenaria e ha chiesto che Anthropic, OpenAI, Google e Meta rispondessero sotto giuramento alle domande sui pericoli che i loro sistemi potrebbero comportare. Tre delle aziende hanno acconsentito solo dopo che il Consiglio ha minacciato citazioni in giudizio, secondo l’ufficio di Menin.1
Lunedì, l’audizione ha messo in luce la distanza tra la richiesta del Consiglio di garanzie concrete e le caute rassicurazioni del settore. Menin ha chiesto ai dirigenti come quantificassero il rischio dell’IA in uno scenario catastrofico nel peggiore dei casi. Il responsabile delle politiche di OpenAI Morgan Dwyer ha risposto: «Non lo so», aggiungendo che non importava se la probabilità fosse dell’1%, del 10% o del 20%, perché nessun livello di rischio di questo tipo era accettabile.2
Menin non si è lasciata convincere. «Dire che non lo sapete e che non importa è, nel migliore dei casi, superficiale», ha detto, dopo che Dwyer aveva affermato che OpenAI non dovrebbe addestrare modelli che non possano rimanere in sicurezza sotto il controllo umano.2 Le aziende non hanno fornito risposte chiare sul fatto che potessero fermare un modello che non superasse un test di sicurezza, assicurarsi contro una catastrofe o quantificarne la probabilità.2
Gli ex dipendenti hanno descritto il problema in termini più netti. Jacob Coxon, che ha lasciato Anthropic, ha detto ai consiglieri che l’etica del settore del «muoviti velocemente e rompi le cose» poteva adattarsi a un’app di condivisione di foto, ma non «alla tecnologia più potente mai costruita».3 È comparso insieme a ex dipendenti di Google e OpenAI che chiedevano una supervisione più rigorosa.
Il rimprovero politico più duro è arrivato dal Difensore civico Jumaane D. Williams, che ha definito la risposta di Dwyer una «risposta terribile, incredibilmente terribile».3 L’audizione ha lasciato entrambe le parti concordi su un punto astratto — il rischio catastrofico è inaccettabile — ma divise sulla questione se le aziende possano dimostrare che i loro sistemi in rapida evoluzione siano effettivamente sotto controllo.