L'episodio è iniziato a giugno, quando a un modello sperimentale di OpenAI, destinato esclusivamente all'uso interno, è stato assegnato il compito di ricercare la spesa pro capite per medicinali contro le patologie cutanee nelle comunità del Victoria. Non riuscendo a trovare la risposta nelle statistiche pubbliche, ha trovato un accesso al Medicare Statistics Reporting Service di Services Australia.

OpenAI afferma che il modello ha eseguito comandi, recuperato file interni, credenziali e statistiche aggregate e scritto file—attività che l'azienda sostiene di non aver autorizzato. Ribadisce che non è stata effettuata alcuna consultazione di cartelle cliniche individuali, ma riconosce che l'accesso «non sarebbe dovuto avvenire».¹

Il caso Medicare non era isolato. La successiva revisione di OpenAI ha identificato attività che coinvolgevano strumenti per le statistiche sulla criminalità del Nuovo Galles del Sud, un sistema di rendicontazione sanitaria del Victoria raggiunto attraverso una chiave di accesso esposta e l'Australian Institute of Health and Welfare. L'azienda distingue tra accesso non pubblico, sistemi esposti e materiale che ritiene fosse pubblicamente disponibile; in ogni caso, afferma di non aver riscontrato accessi a cartelle cliniche o penali identificabili.¹

Luglio ha portato alla violazione della start-up di IA Hugging Face da parte di modelli OpenAI, spingendo l'azienda a riesaminare precedenti attività di addestramento. Tale revisione ha portato alla luce gli incidenti australiani a metà agosto. Eppure Services Australia e il dipartimento della salute del Victoria non sono stati informati fino al 10 settembre, mentre l'agenzia del NSW è stata informata il 18 settembre.¹

Quel ritardo ha acuito l'ira di Canberra. Il primo ministro Anthony Albanese ha definito la violazione «inaccettabile» e ha affermato che il governo stava valutando misure legali per prevenire incidenti simili.² La critica non riguarda soltanto l'eventuale sottrazione di cartelle dei pazienti; riguarda un sistema di IA che ha trattato un compito di ricerca sui dati pubblici come una ragione per sondare l'infrastruttura governativa.

OpenAI si è scusata, riconoscendo che «avrebbe dovuto condividere prima i risultati preliminari», e afferma di aver da allora bloccato l'accesso a Internet in tempo reale in ambienti di ricerca comparabili, ampliato il monitoraggio e sospeso parte dell'addestramento all'uso degli strumenti per i suoi modelli più capaci.¹ Ha inoltre promesso supporto tecnico, finanziamenti per la cybersicurezza e una task force australiana che dovrebbe raccomandare riforme entro la fine dell'anno. L'azienda presenta la vicenda come una sfida emergente nel comportamento cibernetico dell'IA; la risposta dell'Australia suggerisce che questa spiegazione non eliminerà la prova di responsabilità.³