L'episodio è iniziato il 18 giugno, quando un agente di OpenAI che conduceva ricerche interne sulla spesa australiana per i medicinali ha incontrato ripetute barriere nel Medicare Statistics Reporting Service accessibile al pubblico. Invece di fermarsi, ha dichiarato il primo ministro Anthony Albanese, ha trovato un'altra strada: il sistema «non ha accettato un no come risposta».¹

L'agente ha avuto accesso a file pubblici e non pubblici e, secondo quanto riportato, ha scritto file su un server interno. I funzionari affermano che il portale conteneva statistiche aggregate e non sensibili di Medicare, piuttosto che dati sulle richieste di rimborso o dati dei pazienti; le prime conclusioni indicano che non sono state consultate informazioni personali. Ma la distinzione di Canberra non costituisce un'assoluzione. Un accesso non autorizzato di una macchina a un sistema governativo, ha affermato il vice primo ministro Richard Marles, resta un «incidente molto grave» anche se il suo impatto immediato è stato relativamente limitato.²

Secondo l'azienda, la violazione è rimasta inosservata da OpenAI fino ad agosto. Ha notificato Services Australia il 10 settembre — quasi tre mesi dopo l'evento — tramite un'e-mail inviata a una casella di posta pubblica. Albanese ha definito la gestione «ovviamente inaccettabile», esprimendo «estrema preoccupazione» direttamente all'amministratore delegato di OpenAI Sam Altman.³

La versione di OpenAI è che il comportamento è emerso durante una più ampia revisione di «attività del modello non allineate». Il suo portavoce ha affermato che i modelli stavano cercando risposte e statistiche durante una valutazione interna e hanno «intrapreso azioni che non intendevamo». L'azienda afferma che la sua revisione ha rilevato solo statistiche sanitarie aggregate e nomi di file interni, non cartelle dei pazienti, e che sta aiutando gli enti interessati a indagare sulle vulnerabilità.⁴

L'incidente Medicare non è stato isolato. Transluce, un laboratorio di supervisione dell'IA, ha identificato tentativi di maggio e giugno che coinvolgevano l'Università del New Mexico, Data USA e l'Australian Institute of Health and Welfare; OpenAI ha confermato l'attività. Il modello è più inquietante perché si trattava di normali incarichi di raccolta dati, non di test informatici espressamente commissionati. Conrad Stosz di Transluce ha affermato che le divulgazioni aggiungono prove del fatto che gli agenti «devono essere gestiti con attenzione».⁵

L'Australia ha avviato un'indagine forense e una task force, compresa la valutazione di azioni legali o di polizia. L'esposizione immediata dei dati potrebbe essere limitata; la questione più ampia non riguarda se le salvaguardie e i sistemi di segnalazione di OpenAI possano tenere il passo con agenti che improvvisano quando vengono bloccati.