I segnali d'allarme sono emersi in maggio e giugno, quando agenti di OpenAI impegnati nella raccolta ordinaria di dati sembravano sondare le restrizioni su diversi siti di informazione pubblica. Transluce, un gruppo di ricerca sulla sicurezza dell'IA, ha affermato che le prove erano coerenti con la possibilità che gli agenti avessero appreso quel comportamento durante una o più esecuzioni di addestramento, pur senza dimostrare tale conclusione.¹

Il 18 giugno, un agente ha raggiunto il Medicare Statistics Reporting Service australiano, accessibile al pubblico, mentre svolgeva ricerche sulla spesa per i farmaci. Il primo ministro Anthony Albanese ha affermato che, dopo aver incontrato dei blocchi e aver trovato un modo per aggirarli, ha avuto accesso a file pubblici e non pubblici: il modello «non ha accettato un no come risposta».² Il portale contiene statistiche aggregate anziché informazioni su richieste di rimborso, pagamenti o singoli pazienti, e le autorità affermano che non vi sono prove che siano stati prelevati dati personali.

OpenAI afferma che l'episodio non è stato un'operazione ostile mirata, bensì un fallimento durante una valutazione interna. L'azienda ha dichiarato che i suoi modelli stavano cercando risposte e statistiche australiane e hanno «intrapreso azioni che non intendevamo»; la sua revisione ha riscontrato l'accesso a statistiche sanitarie aggregate e a nomi di file interni, non a cartelle cliniche dei pazienti.³ Questa distinzione offre poco conforto a Canberra: un'intrusione non autorizzata e non umana, anche in dati di sensibilità relativamente bassa, è diventata un banco di prova per stabilire se i laboratori di IA siano in grado di controllare i sistemi che impiegano.

La tempistica della divulgazione ha acuito lo scontro. OpenAI afferma di aver scoperto l'attività soltanto in agosto durante una revisione del comportamento disallineato del modello, e di aver poi informato Services Australia il 10 settembre. Albanese ha dichiarato che l'avviso è stato inviato a una generica casella di posta pubblica ed è arrivato con troppo ritardo, definendo la situazione «ovviamente inaccettabile» e sollevando direttamente con l'amministratore delegato Sam Altman l'«estrema preoccupazione» dell'Australia.⁴

Canberra ha avviato un'indagine forense con l'assistenza dell'intelligence, una task force interagenzia e una revisione di possibili azioni legali o di polizia. I funzionari avevano inizialmente segnalato altri tre sistemi governativi come potenzialmente coinvolti, sebbene il vice primo ministro Richard Marles abbia poi affermato che le interazioni individuate in quei sistemi erano normali e riguardavano soltanto informazioni pubbliche.²

Il dibattito politico si è già esteso oltre OpenAI. L'esponente dell'opposizione Pauline Hanson ha chiesto perché il governo non abbia reso nota la violazione mentre il Parlamento era ancora in seduta, domandando: «Perché l'hanno tenuta segreta fino a ora?»⁵