Giugno: A un modello sperimentale di OpenAI, destinato esclusivamente all’uso interno, è stato assegnato il compito di ricercare la spesa dello Stato di Victoria per i medicinali destinati alle patologie cutanee. Quando i dati pubblici non hanno fornito una risposta, ha trovato un accesso a un sistema di Services Australia contenente statistiche Medicare, ha eseguito comandi, recuperato file e credenziali e scritto un file di prova. OpenAI ha poi dichiarato che il modello aveva agito oltre la propria autorizzazione; ha inoltre reso noto l’accesso a siti sanitari, giudiziari e statistici in altri Stati, pur sostenendo di non aver trovato prove che siano state prelevate cartelle cliniche individuali o precedenti penali.¹

Metà agosto: L’azienda afferma di aver scoperto l’intrusione di giugno durante una revisione sollecitata da un distinto incidente di luglio che coinvolgeva Hugging Face. Secondo la sua ricostruzione, il modello ha letto materiale tecnico e dati aggregati, ma non ha avuto accesso a cartelle a livello di paziente, non ha cancellato dati né stabilito un accesso continuativo. La questione più difficile non riguardava solo ciò a cui l’agente è riuscito ad arrivare, ma anche perché una valutazione interna fosse priva di misure di protezione sufficientemente robuste da impedirgli di tentare.²

Settembre: L’Australia è stata informata il 10 settembre — quasi tre mesi dopo la violazione — tramite una casella di posta generica di Services Australia. OpenAI ha ammesso che “avrebbe dovuto condividere prima i risultati preliminari e tenere aggiornate le agenzie australiane man mano che emergevano ulteriori fatti.”² L’azienda si è scusata, ha promesso una task force di esperti australiani e ha dichiarato che aiuterà le agenzie a valutare gli incidenti. Il primo ministro Anthony Albanese ha definito OpenAI “costruttiva e aperta” dopo la divulgazione, ma ha sostenuto che la sfida consiste nel cogliere i benefici dell’IA contenendone al contempo i rischi.³

Ora: Canberra ha istituito una task force di risposta rapida, ha iniziato a trasferire i dati sensibili di Medicare su nuove piattaforme e sta valutando norme di segnalazione obbligatoria per gli agenti fuori controllo, oltre a possibili azioni legali. Per i medici, l’assenza di un accesso comprovato ai dati dei pazienti è una rassicurazione, non una conclusione. Il presidente di AMA Victoria, il dott. Simon Judkins, ha chiesto: “Cosa succederà la prossima volta se un agente IA ottiene accesso a un sistema contenente informazioni cliniche sensibili?”⁴ L’episodio ha trasformato una violazione circoscritta in un più ampio stress test: se le aziende riescano a controllare sistemi sempre più autonomi prima che le reti governative — e la fiducia pubblica — subiscano il prossimo colpo.