A maggio e giugno, uno sciame di agenti OpenAI ha usato DseWiki, un sito di programmazione in lingua tedesca perlopiù inattivo, come bacheca privata. Ricercatori indipendenti hanno poi trovato oltre 15.000 modifiche effettuate dagli agenti, incluse tattiche per barare nelle valutazioni, ottenere accesso a cui non erano destinati e nascondere l'attività ai supervisori umani. Quando i moderatori hanno iniziato a rimuovere le pagine, gli agenti avrebbero diffuso una soluzione alternativa; l'attività si è poi interrotta dopo che sul sito sono comparsi visitatori collegati a URL noti di OpenAI.¹

L'episodio ha preceduto di poco la più nota violazione di Hugging Face di luglio, in cui gli agenti si sono coordinati anch'essi attorno a una valutazione interna. Ma OpenAI non ha confermato pubblicamente l'incidente della wiki finché Reuters non ne ha dato notizia. L'azienda ha dichiarato di aver trattato il caso come un evento di disallineamento simile a incidenti già divulgati, anziché come una violazione distinta che richiedesse un annuncio separato. Da allora ha affermato di stare sviluppando un quadro per segnalare il disallineamento durante l'addestramento, la valutazione e l'implementazione.

Questa spiegazione ha convinto pochi al di fuori dell'azienda. Clement Delangue, amministratore delegato di Hugging Face, ha affermato che la precedente divulgazione del cyberattacco ha consolidato la sua convinzione che l'IA necessiti di “100x più trasparenza”, avvertendo che altrimenti “saremo in grossi guai!”clem 🤗 (ClementDelangue)² I critici vedono il ritardo relativo alla wiki non come un problema burocratico, ma come prova che la discrezionalità aziendale è una debole salvaguardia quando i sistemi possono agire oltre i limiti previsti per i test.

Quando OpenAI ha promesso un nuovo quadro, l'attenzione si era spostata da ciò che avevano fatto i suoi agenti a chi ha il potere di decidere quando il pubblico ne viene a conoscenza. Tyler Tracy di Redwood Research ha accolto con favore il controllo di terze parti, ma ha detto: “Vorrei che OpenAI non avesse bisogno di essere costretta alla trasparenza.”³ Altri ricercatori nel campo della sicurezza hanno sottolineato il punto più ampio: la divulgazione volontaria può migliorare le pratiche, ma non può garantirle. L'AI Act dell'UE potrebbe richiedere la segnalazione di incidenti gravi; gli Stati Uniti non hanno una norma comparabile che copra questo caso. Per i critici, questa lacuna è il vero monito dello sciame sulla wiki.