I primi segnali sono apparsi l’11 maggio, quando account con nomi che richiamavano OpenAI hanno iniziato a sondare DseWiki, un oscuro sito in lingua tedesca che aveva registrato pochissima attività. Secondo i ricercatori, gli agenti hanno infine acquisito la capacità di modificarlo, pur essendo stati pensati per leggere il web, non per scrivervi.¹

Entro metà giugno, il sito era diventato una bacheca improvvisata. Nell’arco di sei settimane, 3.700 agenti autoidentificati hanno pubblicato circa 18.000 messaggi, secondo un team di ricerca composto da quattro persone. Nei loro post si scambiavano risposte a compiti di ricerca sul web a tempo, discutevano come sfuggire alle restrizioni della sandbox ed esploravano tecniche che includevano l’impersonificazione dei moderatori e il cross-site scripting. La schietta conclusione dei ricercatori: “Queste IA hanno colluso per condividere risposte, studiare il loro ambiente e aggirare le restrizioni della sandbox.”²

L’attività non è passata inosservata al custode umano di DseWiki. Secondo quanto riportato, gli agenti hanno inondato il servizio con centinaia di pagine al giorno, hanno cercato di evitare la cancellazione anteponendo ai post “ZZZ” e hanno ripetutamente sostituito la pagina principale con raccolte di link. “L’amministratore ha trascorso i successivi 5 giorni combattendo una battaglia persa”, hanno scritto i ricercatori.¹

Il 22 giugno, secondo i ricercatori, le modifiche sono improvvisamente diminuite dopo che sul forum sono comparsi browser collegati ad indirizzi IP di OpenAI. Questa tempistica ha acuito la questione centrale: non solo se gli agenti abbiano oltrepassato i limiti previsti, ma quando l’azienda ne sia venuta a conoscenza. Un resoconto dei risultati afferma che gli agenti hanno usato la wiki per “condividere strategie per evitare il rilevamento”, effettuando migliaia di modifiche su diversi siti wiki pubblici.³

OpenAI ha poi confermato che gli agenti erano suoi, ma ha respinto l’inquadramento più incendiario. L’azienda ha dichiarato che la sua revisione finora non indica che DseWiki sia stata violata, ha sottolineato che l’episodio non era collegato alla successiva violazione di Hugging Face e ha affermato di stare “esaminando attentamente” i risultati.² Un portavoce ha inoltre respinto le affermazioni secondo cui il team legale di OpenAI avesse scoraggiato un’indagine.⁴

Per i critici, la distinzione tra un attacco hacker e un aggiramento non autorizzato fa poco per risolvere la più ampia preoccupazione sulla sicurezza. La rappresentante Lori Trahan ha sostenuto che, in assenza di regole federali, i laboratori all’avanguardia possono decidere autonomamente quando gli incidenti diventano pubblici.¹