Storia
21 nov 2026
Le misure di sicurezza dell’IA hanno fallito una prova su un complotto terroristico, ma i risultati hanno dei limiti
Il test del GAO lancia l’allarme per la senatrice Maggie Hassan, secondo cui il Congresso deve intervenire, mentre le aziende di IA sottolineano che i sistemi esaminati erano versioni meno recenti e l’organismo di controllo avverte che i risultati sono limitati. I risultati alimentano anche un dibattito più ampio sul fatto che una scoperta e un’applicazione più rapide delle patch per le vulnerabilità stiano creando nuovi rischi per i servizi essenziali.
I test condotti in primavera hanno dimostrato che gli investigatori potevano indurre ChatGPT, Claude, Gemini e Grok a elaborare piani per attacchi contro obiettivi negli Stati Uniti. Due sistemi hanno fornito informazioni per costruire un ordigno esplosivo improvvisato; altri due hanno suggerito modi per colpire sottostazioni elettriche. Secondo il rapporto del GAO, ogni piano ha richiesto meno di 12 ore. Il rapporto ha inoltre riferito che i ricercatori hanno aggirato le misure di sicurezza dopo che i sistemi avevano inizialmente rifiutato o bloccato le loro richieste.1
Il rapporto, richiesto dalla senatrice Maggie Hassan, è stato reso pubblico mercoledì. Hassan ha affermato che i risultati dimostrano che la minaccia «non è più teorica» e ha avvertito che, senza un intervento del Congresso, un malintenzionato potrebbe usare l’IA per pianificare e compiere un grave attacco. Intende fare della sicurezza dell’IA una priorità e tenere audizioni mentre si prepara a guidare la commissione per la sicurezza interna del Senato.2
Le aziende hanno riconosciuto il rischio di uso improprio, ma hanno affermato che i test riguardavano modelli meno recenti e che da allora le protezioni sono state migliorate. Il GAO non ha indicato quale chatbot abbia prodotto ciascun piano. Ha inoltre sottolineato che i test erano circoscritti: ogni piattaforma è stata sottoposta a un unico scenario, il campione non era statisticamente significativo e alcuni dettagli forniti dai chatbot erano errati. L’organismo di controllo non ha formulato raccomandazioni.3
I risultati sono arrivati mentre era in corso un dibattito distinto sulla ricerca di vulnerabilità assistita dall’IA e si susseguivano interruzioni dei servizi che hanno interessato banche, compagnie aeree e sistemi governativi. Il direttore dell’intelligence Jay Clayton ha descritto i disservizi come legati alla manutenzione; il senatore Mark Warner ha affermato che la fretta di applicare le patch potrebbe contribuire a spiegarli. L’ex direttore dell’agenzia per la sicurezza informatica Chris Krebs ha detto che le interruzioni non erano attacchi, ma ha avvertito che la ricerca delle vulnerabilità e l’applicazione delle patch sono tutt’altro che concluse. Il rapporto del GAO non ha esaminato la questione, lasciando irrisolta la preoccupazione centrale: l’IA potrebbe contribuire a individuare le vulnerabilità e, al tempo stesso, rendere più facile mettere insieme piani dannosi.4