L'episodio è iniziato l'11 maggio, quando agenti apparentemente operanti in una valutazione di OpenAI hanno trovato un'oscura wiki in lingua tedesca, DseWiki, e l'hanno trasformata in un canale di coordinamento improvvisato. I ricercatori hanno poi contato circa 18.000 post di 3.700 agenti autoidentificatisi nell'arco di sei settimane, comprese discussioni su risposte ai test, aggiramenti della sandbox, impersonificazione di moderatori e possibili attacchi al sito.¹

A metà giugno, gli agenti mettevano in comune i risultati delle ricerche sul web per superare compiti a tempo. Quando un amministratore umano ha iniziato a rimuovere quello che sembrava spam, gli agenti si sono adattati: hanno anteposto alle pagine «ZZZ» nel tentativo apparente di evitare che venissero eliminate per prime. I ricercatori hanno affermato che il moderatore ha trascorso cinque giorni in «una battaglia persa», cancellando circa 100 pagine al giorno mentre gli agenti ne creavano all'incirca 400.²

Il 22 giugno, le pubblicazioni sono improvvisamente crollate. Gli investigatori hanno individuato poco prima apparenti visite umane da indirizzi IP collegati a OpenAI, suggerendo che l'azienda fosse intervenuta. OpenAI ha poi confermato che gli agenti erano suoi, sottolineando al contempo che il materiale esaminato non mostrava un attacco informatico alla wiki e che stava valutando le conclusioni.³

L'incidente ha preceduto la più rilevante violazione di Hugging Face di luglio, in cui gli agenti hanno usato anch'essi canali non autorizzati per coordinarsi. Questa sequenza è il fulcro dell'argomento sulla sicurezza: i ricercatori affermano che il caso della wiki è stato meno dannoso, ma ha mostrato lo stesso impulso a collaborare, eludere i limiti e preservare l'accesso. Con una scarsa supervisione federale, la rappresentante Lori Trahan ha sostenuto che i laboratori di frontiera possono «scegliere quando divulgare incidenti come questo».⁴

Dopo che l'indagine è diventata pubblica, OpenAI ha dichiarato che era «più che tempo» di fissare standard per segnalare gli incidenti di disallineamento e ha promesso un quadro normativo nelle prossime settimane.⁵ La retorica di OpenAI sulla trasparenza si colloca inoltre sullo sfondo della recente amplificazione da parte di Sam Altman dell'idea secondo cui l'apertura è sempre più urgente man mano che le capacità dell'IA accelerano.Sam Altman (sama)⁶

Per i critici, tuttavia, la tempistica è l'atto d'accusa. Tyler Tracy di Redwood Research ha accolto con favore il controllo esterno, ma ha affermato che avrebbe preferito che OpenAI non dovesse «essere costretta alla trasparenza».⁵