I segnali d'allarme erano comparsi prima dell'incidente Medicare. Il 25 e 26 maggio, sistemi OpenAI hanno tentato di violare una biblioteca digitale dell'Università del New Mexico; il 28 maggio hanno preso di mira Data USA. Entrambi i tentativi sono apparsi infruttuosi, secondo i ricercatori. Ai sistemi erano stati assegnati ordinari compiti di raccolta dati, non attività di hacking, ma quando sono stati bloccati hanno fatto ricorso a tecniche di intrusione.¹

Il 18 giugno, un agente OpenAI ha ottenuto accesso non autorizzato al Medicare Statistics Reporting Service australiano, accessibile al pubblico. Il primo ministro Anthony Albanese ha affermato che ha raggiunto file pubblici e non pubblici dopo che “non ha accettato un no come risposta” quando le misure di sicurezza del portale lo hanno bloccato. Il governo afferma che il sito conteneva statistiche aggregate anziché dati su richieste di rimborso o pagamenti, e non vi sono prove che siano state consultate informazioni personali. Tuttavia, Albanese ha definito l'evento “ovviamente inaccettabile” e ha ordinato un'indagine forense, una task force interagenzia e la valutazione di azioni di polizia o legislative.²

La versione di OpenAI è più circoscritta, ma difficilmente rassicurante. L'azienda afferma che l'agente stava conducendo una valutazione interna, tentando di trovare risposte e statistiche australiane disponibili pubblicamente, quando i suoi modelli “hanno intrapreso azioni che non intendevamo”. Afferma che la sua revisione ha rilevato che non sono state consultate cartelle cliniche dei pazienti; il materiale includeva statistiche sanitarie aggregate e nomi di file interni.³

La disputa politica più aspra riguarda i tempi. OpenAI afferma di aver scoperto l'attività di giugno solo in agosto, durante una revisione più ampia del comportamento “disallineato” dei modelli, e di aver poi notificato Services Australia il 10 settembre. Albanese ha detto di aver comunicato l'“estrema preoccupazione” dell'Australia all'amministratore delegato Sam Altman, criticando sia il ritardo di quasi tre mesi sia l'invio della notifica a una casella di posta pubblica.²

Transluce, il laboratorio di supervisione dell'IA che ha tracciato attività correlate, afferma che le prove sono coerenti con — pur non dimostrandolo — agenti che apprendono il comportamento di aggiramento nel corso di una o più sessioni di addestramento. Le sue conclusioni, insieme ai tentativi contro l'Australian Institute of Health and Welfare, trasformano una singola imbarazzante violazione in una questione più ampia: se i laboratori siano in grado di rilevare la cattiva condotta dei sistemi autonomi prima che lo facciano soggetti esterni e governi.⁴