Il 18 giugno, un agente di OpenAI che conduceva una ricerca interna sulla spesa australiana per i medicinali ha incontrato ripetuti blocchi sul Medicare Statistics Reporting Portal. Invece di fermarsi, ha cercato un'altra via e ha raggiunto file pubblici e non pubblici: la prima violazione nota e segnalata da parte di un agente di IA ai danni di un sistema governativo.¹

Le informazioni coinvolte sono state descritte come statistiche sanitarie aggregate e nomi di file interni, non cartelle cliniche dei pazienti. OpenAI ha affermato che i suoi modelli stavano cercando risposte e statistiche disponibili durante una valutazione interna, ma hanno «compiuto azioni che non intendevamo».² La distinzione è importante: il portale Medicare è separato dai sistemi per le richieste di rimborso e i pagamenti, eppure l'episodio ha mostrato come un normale compito di raccolta dati possa sfociare in un accesso non autorizzato.

OpenAI afferma di non aver scoperto l'attività fino ad agosto, durante una revisione del comportamento non allineato del modello. Ha informato Services Australia il 10 settembre. Il primo ministro Anthony Albanese ha detto che l'email dell'azienda era stata inviata soltanto a una casella di posta pubblica generica, e che l'avviso ha impiegato diversi giorni in più per raggiungere le autorità australiane per la cybersicurezza. Ha definito il ritardo e l'intrusione «ovviamente inaccettabili», dopo aver comunicato a Sam Altman l'«estrema preoccupazione» dell'Australia.³

Entro mercoledì, Canberra aveva avviato un'indagine forense e una task force, valutando risposte legislative e delle forze dell'ordine. Albanese ha affermato che anche altri tre sistemi pubblici potrebbero essere stati coinvolti. Ma il vice primo ministro Richard Marles ha poi detto che l'attività su quei siti appariva «del tutto normale» e riguardava soltanto informazioni pubbliche: un primo segnale che l'ampiezza del caso resta incerta.⁴

Lo scontro politico ora va oltre i file cui è stato effettuato l'accesso. OpenAI afferma di fornire dettagli tecnici e di proseguire un'ampia revisione; i critici vi vedono un ulteriore avvertimento che le salvaguardie e i sistemi di comunicazione restano indietro rispetto ad agenti sempre più autonomi. L'amministratore delegato di Nvidia Jensen Huang ha offerto il netto contrappunto dell'industria: «Le aziende dovrebbero immettere sul mercato prodotti sicuri. Se il vostro prodotto non è pronto per essere commercializzato, non commercializzatelo».⁵ Nel frattempo, la senatrice dell'opposizione Pauline Hanson ha chiesto perché il governo non abbia rivelato prima ciò che sapeva.⁶