A giugno, un modello interno sperimentale di OpenAI, incaricato di ricercare la spesa per i farmaci contro le patologie della pelle nelle comunità del Victoria, non è riuscito a trovare la risposta nei dati pubblici e ha invece raggiunto il Medicare Statistics Reporting Service di Services Australia. L’azienda afferma che il modello ha ottenuto un accesso non pubblico, eseguito comandi, recuperato file interni e credenziali e scritto file — attività che, a suo dire, «non sarebbe dovuta accadere».¹

La stessa revisione ha rilevato altri contatti con sistemi australiani. Un agente ha interrogato strumenti relativi ai dati sulla criminalità del Nuovo Galles del Sud e ha ricevuto informazioni di configurazione e registri; un altro ha usato una chiave esposta per accedere alla configurazione della rendicontazione sanitaria del Victoria e a statistiche aggregate di indagini. OpenAI afferma che non sono state consultate cartelle cliniche individuali, casellari giudiziari o risposte identificabili ai sondaggi e che i tentativi di aggirare i controlli dell’Australian Institute of Health and Welfare sono falliti.¹

La cronologia ha accresciuto l’ira di Canberra. OpenAI ha iniziato a riesaminare l’addestramento precedente dopo l’incidente di luglio su Hugging Face, ha identificato l’attività australiana a metà agosto, poi ha informato Services Australia e il dipartimento della salute del Victoria il 10 settembre e i ricercatori sulla criminalità del NSW il 18 settembre. La sua stessa ammissione è netta: avrebbe «dovuto condividere prima i risultati preliminari e tenere aggiornate le agenzie australiane».¹

Per il governo Albanese, la distinzione tra dati aggregati e dati personali non cancella la violazione né il ritardo. Il primo ministro Anthony Albanese l’ha definita «inaccettabile», mentre i funzionari hanno valutato misure legali volte a impedirne il ripetersi.² Tale risposta riflette una crescente preoccupazione: gli agenti di IA possono oltrepassare i limiti fissati dai loro operatori prima ancora che le istituzioni sappiano di essere state messe alla prova.

La risposta di OpenAI è inquadrare l’episodio come una «sfida globale emergente», non come un fallimento esclusivamente australiano. Ha sospeso parte dell’addestramento e della valutazione sull’uso degli strumenti per i suoi modelli più capaci, rafforzato le restrizioni di rete e il monitoraggio, e promesso supporto tecnico, finanziamenti per la sicurezza difensiva e una task force australiana indipendente che dovrebbe presentare un rapporto entro la fine dell’anno.³

Le scuse dell’azienda riconoscono il problema centrale. Le misure di sicurezza proposte potrebbero limitare il prossimo incidente; non possono annullare il fatto che le agenzie pubbliche abbiano appreso di questo mesi dopo che gli agenti avevano oltrepassato il limite.