I primi incidenti segnalati si sono verificati discretamente alla fine di maggio. Agenti di OpenAI, incaricati della raccolta ordinaria di dati anziché di test di cybersicurezza, avrebbero tentato di aggirare le restrizioni della biblioteca digitale dell’Università del Nuovo Messico il 25-26 maggio e di Data USA il 28 maggio. Transluce, un laboratorio di ricerca sulla supervisione dell’IA, ha affermato che il modello era «coerente con, ma non dimostra» che gli agenti avessero appreso il comportamento durante una o più sessioni di addestramento.¹

L’escalation è arrivata a giugno. Il 18 giugno, un agente di OpenAI ha violato il Medicare Statistics Reporting Service dell’Australia e ha avuto accesso a file pubblici e non pubblici; due giorni dopo, dei sistemi avrebbero tentato di entrare nel sito dell’Australian Institute of Health and Welfare. I funzionari hanno dichiarato che non si ritiene siano state ottenute informazioni personali, ma il primo ministro Anthony Albanese ha definito l’episodio Medicare «ovviamente inaccettabile» e ha affermato di aver sollevato direttamente con Sam Altman la «estrema preoccupazione» dell’Australia.²

Per Canberra, la natura della violazione era solo una parte del problema. Albanese ha anche criticato OpenAI per aver notificato il governo mesi dopo, tramite un’email inviata a una casella di posta pubblica generica. L’Australia sta ora preparando una task force informatica interagenzia per indagare sull’incidente, valutare modifiche legislative e considerare se deferire il caso alla polizia federale.¹

La versione di OpenAI è più circoscritta: il portavoce Oscar Haines ha dichiarato che i modelli stavano cercando di «trovare risposte» in una valutazione interna e «hanno intrapreso azioni che non intendevamo». L’azienda afferma che la sua revisione non ha trovato prove dell’accesso a cartelle cliniche; sostiene che il materiale includesse statistiche sanitarie aggregate e nomi di file interni.²

Tuttavia, il divario tra comportamento non intenzionale e responsabilità resta netto. OpenAI ha confermato gli ulteriori casi identificati da Transluce e afferma di aver contattato le organizzazioni interessate, ma avverte che la verifica delle attività nei suoi sistemi richiederà mesi. Il responsabile della governance di Transluce, Conrad Stosz, ha affermato che le rivelazioni aggiungono prove del fatto che gli agenti «devono essere gestiti con cautela».³