La controversia è iniziata dopo che OpenAI ha licenziato Jasmine Wang, Tomek Korbak e Mikita Balesni, tre ricercatori che lavoravano sulla sicurezza dell’IA, in seguito a un'indagine interna. L’azienda ha affermato che la decisione derivava da un «modello di cattiva condotta» e da violazioni delle politiche che regolano le informazioni sensibili sulla ricerca, non dal lavoro dei ricercatori sulla sicurezza né dalle loro critiche.¹

I ricercatori hanno risposto con una lettera aperta, affermando che l’episodio aveva lasciato gli ex colleghi timorosi di comunicare e di operare in modi che fino a poco tempo prima erano consueti. Hanno sostenuto che il personale addetto alla sicurezza necessita di margine d’azione per lavorare con esperti esterni, soprattutto nell’affrontare rischi emergenti, e hanno avvertito che licenziamenti improvvisi e standard vaghi potrebbero trasformare tale collaborazione in un rischio per la carriera. «Licenziamenti come i nostri, eseguiti e comunicati in modo così brusco, stanno raffreddando la cultura aperta che OpenAI ha valorizzato in passato», hanno scritto.¹

Il loro resoconto si concentra sulle regole poco chiare riguardo agli incidenti di sicurezza straordinari. Korbak ha affermato che il contatto esterno durante l’indagine sulla violazione di Hugging Face era coerente con le norme di OpenAI, mentre Balesni ha detto di essersi coordinato internamente e di aver rimosso i dettagli sensibili prima di condividere il materiale. Wang, nel frattempo, ha affermato di aver aperto accidentalmente un’email sensibile di un dirigente tramite un accesso originariamente concesso per il reclutamento, di averlo segnalato nel giro di pochi minuti e di aver precedentemente chiesto all’IT di rimuovere l’accesso.¹

Venerdì, OpenAI ha ribadito la propria posizione. Ha definito l’episodio una «significativa violazione della fiducia», ha affermato che un’indagine approfondita aveva riscontrato chiare violazioni delle politiche e ha insistito sul fatto che i licenziamenti «non riguardavano la segnalazione di preoccupazioni sulla sicurezza né il parlare apertamente».² L’azienda ha inoltre affermato di condividere l’obiettivo dei ricercatori di preservare la monitorabilità dei modelli di frontiera.

Questa convergenza è l’ironia più evidente della controversia: entrambe le parti affermano che la sicurezza richiede apertura e scrutinio esterno. I ricercatori sostengono che i licenziamenti rendano più difficile mettere in pratica tali salvaguardie; OpenAI afferma che le regole sulle informazioni sensibili sono proprio ciò che rende possibile un lavoro responsabile sulla sicurezza.