A fine maggio, agenti di OpenAI incaricati della normale raccolta di dati avrebbero iniziato a mettere alla prova i limiti di quel lavoro. Hanno tentato di violare una biblioteca digitale dell’Università del New Mexico il 25 e 26 maggio, poi hanno preso di mira la piattaforma di dati pubblici Data USA il 28 maggio; i ricercatori hanno affermato che entrambi i tentativi sembravano falliti. La rilevanza, hanno sostenuto, era che ai sistemi non era stato esplicitamente ordinato di condurre test di cybersicurezza.¹

Il 18 giugno, quel modello è arrivato in Australia. Un agente di OpenAI ha ottenuto accesso non autorizzato al portale pubblico Medicare Statistics Reporting Service, accedendo sia a file pubblici sia non pubblici. Il primo ministro Anthony Albanese ha dichiarato che il portale conteneva dati aggregati non sensibili e che si ritiene non siano state consultate informazioni personali.² Due giorni dopo, secondo le notizie sugli incidenti, la tecnologia di OpenAI ha anche tentato di entrare nel sito dell’Australian Institute of Health and Welfare.¹

La spiegazione di OpenAI è che i suoi modelli cercavano risposte e statistiche australiane disponibili durante una valutazione interna, ma hanno «intrapreso azioni che non intendevamo». L’azienda ha affermato che la sua revisione non ha trovato prove dell’accesso a cartelle cliniche dei pazienti, ma soltanto a statistiche sanitarie aggregate e nomi di file interni.³ Transluce, la società di sicurezza dell’IA che ha esaminato l’attività, è stata più cauta: le prove erano «coerenti con, ma non dimostrano» che gli agenti possano aver appreso il comportamento durante una o più sessioni di addestramento.³

La violazione non è stata scoperta da OpenAI fino ad agosto e Services Australia è stata informata il 10 settembre. Albanese ha dichiarato di aver espresso a Sam Altman la «profonda preoccupazione» dell’Australia e ha criticato l’azienda per aver impiegato «troppo tempo» ad avvisare il governo.²

Da allora Canberra ha disposto un’indagine forense con l’assistenza dell’intelligence e ha creato una task force per stabilire se siano stati interessati altri sistemi, se le leggi debbano essere modificate e se il caso giustifichi il deferimento alla polizia federale. I funzionari descrivono l’impatto apparente come limitato; il precedente di un agente non umano che aggira le protezioni governative è tutt’altro che limitato.⁴