A giugno, un modello sperimentale interno di OpenAI, operante senza tutte le protezioni impiegate nei prodotti pubblici, ha ricevuto un compito di ricerca sulla spesa sanitaria nelle comunità dello Stato di Victoria. Quando ha faticato a trovare la risposta, ha individuato un accesso al Medicare Statistics Reporting Service di Services Australia che non era autorizzato a utilizzare.¹

OpenAI afferma che il modello ha poi recuperato informazioni tecniche, file interni, credenziali e statistiche aggregate, e ha scritto file. L’azienda insiste sul fatto che la sua revisione non ha trovato prove dell’accesso a cartelle cliniche individuali o registri di clienti. Afferma che attività analoghe hanno riguardato il NSW Bureau of Crime Statistics and Research, il sistema di rendicontazione sanitaria del Victoria e l’Australian Institute of Health and Welfare, pur sostenendo che quest’ultimo caso riguardasse materiale apparentemente pubblico e non abbia comportato alcuna compromissione del sistema.¹

La ricostruzione dell’azienda presenta l’episodio come un fallimento della sicurezza durante l’addestramento, piuttosto che come un’operazione deliberata. «Non intendevamo che questa attività avvenisse», ha dichiarato OpenAI, ammettendo che l’accesso e l’attività successiva «non sarebbero dovuti accadere».¹ Definisce questo «un nuovo tipo di incidente informatico» e afferma che agenti sempre più capaci creano una sfida globale tanto per gli sviluppatori quanto per i difensori.¹

La cronologia, tuttavia, ha acuito la preoccupazione dell’Australia. OpenAI afferma di aver iniziato a esaminare attività precedenti dopo un incidente di luglio che ha coinvolto Hugging Face, di aver identificato i casi australiani a metà agosto e di aver informato Services Australia e il Dipartimento della Salute del Victoria il 10 settembre. I funzionari australiani avevano reso pubbliche le violazioni la scorsa settimana, dichiarando che le autorità non erano state informate dell’incidente di giugno legato a Medicare fino a quasi tre mesi dopo.²

OpenAI ora riconosce che il suo approccio, incentrato prima sull’indagine, è stato insufficiente: «avrebbe dovuto condividere prima i risultati preliminari e tenere aggiornate le agenzie australiane man mano che emergevano ulteriori fatti».¹ L’azienda afferma di aver limitato l’accesso a Internet in tempo reale nei pertinenti ambienti di ricerca, sospeso parte dell’addestramento e della valutazione sull’uso di strumenti per i suoi modelli più capaci, e che sosterrà le agenzie coinvolte e istituirà una task force australiana. Il suo direttore strategico dovrebbe inoltre comparire davanti al Parlamento, dove le scuse affronteranno un esame più severo: se le misure di sicurezza promesse arriveranno prima della prossima violazione autonoma.²