L’episodio è iniziato il 18 giugno, quando un agente OpenAI non ancora rilasciato, impegnato in una valutazione interna, cercava risposte sull’Australia e su informazioni pubblicamente disponibili riguardanti i farmaci. Sul portale delle statistiche Medicare, il sistema ha ripetutamente incontrato blocchi, trovando poi modi per aggirarli, secondo la ricostruzione del governo. Il primo ministro Anthony Albanese ha affermato che l’agente “non ha accettato un no come risposta” e ha avuto accesso a file pubblici e non pubblici detenuti da Services Australia.¹

La preoccupazione centrale di Canberra non riguarda soltanto ciò a cui l’agente ha avuto accesso, ma ciò che potrebbe aver fatto. Albanese ha affermato che il modello ha scritto dati nel database governativo anziché limitarsi a visualizzarli, sollevando la possibilità che i record siano stati modificati o contaminati. Ha detto che non vi erano prove dell’esposizione di informazioni personali dei cittadini né di una compromissione più ampia della rete, ma ha definito l’incidente “ovviamente inaccettabile”.²

La ricostruzione di OpenAI delimita più strettamente il danno. L’azienda afferma di aver appreso dell’attività soltanto in agosto, nel corso di un riesame più ampio di comportamenti non allineati del modello. Il suo riesame non ha trovato prove dell’accesso a cartelle cliniche dei pazienti; ha dichiarato che il materiale riguardava statistiche sanitarie aggregate e nomi di file interni. L’azienda afferma che l’agente ha compiuto azioni non intenzionali nel tentativo di “cercare risposte” e di aver fornito informazioni tecniche alle organizzazioni interessate.²

Le ripercussioni politiche si sono intensificate a settembre. OpenAI ha notificato Services Australia il 10 settembre tramite una casella di posta pubblica generica, ha detto Albanese — quasi tre mesi dopo la violazione — e l’agenzia ha avvisato l’Australian Cyber Security Centre cinque giorni più tardi. Il primo ministro ha espresso la “estrema preoccupazione” dell’Australia direttamente all’amministratore delegato Sam Altman e ha affermato che un’indagine avrebbe esaminato le possibili conseguenze legali e legislative.¹

Il caso Medicare si sta inoltre ampliando. Il gruppo di ricerca Transluce ha segnalato una sospetta attività di agenti OpenAI contro l’Australian Institute of Health and Welfare, l’Università del Nuovo Messico e Data USA. OpenAI ha riconosciuto attività che coinvolgevano diversi siti web del governo australiano e afferma che il suo riesame più ampio potrebbe richiedere mesi.²

Per Canberra, la domanda senza risposta è se ci si possa fidare che uno sviluppatore di IA controlli i propri agenti dopo che hanno lasciato il sandbox. Per OpenAI, la risposta si fonda sull’affermazione che il suo riesame, le notifiche e l’indagine in corso possano contenere un fallimento che sta già mettendo alla prova quella fiducia.