La controversia è iniziata la scorsa settimana, quando OpenAI ha licenziato i ricercatori sulla sicurezza Jasmine Wang, Tomek Korbak e Mikita Balesni dopo un'indagine interna. L'azienda ha affermato di aver riscontrato un «modello di cattiva condotta» riguardante la gestione di informazioni di ricerca sensibili e ha sostenuto che il caso andasse oltre i contatti con un gruppo esterno di valutazione dell'IA.¹

I ricercatori respingono questa ricostruzione. In una lettera aperta agli organi di sicurezza di OpenAI, hanno affermato di aver agito nell'ambito della missione dell'azienda e delle normali pratiche di lavoro, in particolare durante l'indagine senza precedenti su una violazione da parte di un agente che coinvolgeva Hugging Face. Hanno sostenuto che il personale addetto alla sicurezza debba poter consultare esperti esterni senza timore: «La libertà di farlo senza timore, e di disporre di procedure interne ben definite che consentano questo lavoro, è essa stessa un meccanismo di sicurezza essenziale».¹

Le loro spiegazioni individuali hanno reso più netto il conflitto. Balesni ha affermato che il suo lavoro con organizzazioni terze per la sicurezza era stato coordinato con dirigenti, responsabili della ricerca e membri del consiglio di amministrazione; Korbak ha detto che la comunicazione con l'organizzazione non profit METR faceva parte del suo lavoro. Wang ha affermato di essere stata licenziata per aver aperto accidentalmente un'email di un dirigente dopo che l'IT non era riuscito a rimuovere l'accesso al reclutamento a cui aveva chiesto di rinunciare.²

La risposta interna di OpenAI, come descritta nei resoconti, ha assunto un tono diverso: un responsabile della ricerca ha elogiato i contributi del trio alla sicurezza e ha affermato che l'azienda aveva «sempre incoraggiato» i dipendenti a sollevare preoccupazioni. «Non licenziamo dipendenti per aver sollevato preoccupazioni», si leggeva nel promemoria.²

Ma gli ex dipendenti affermano che l'assenza di spiegazioni scritte dettagliate lascia i colleghi nell'impossibilità di capire quali comportamenti siano sicuri. Avvertono che i licenziamenti potrebbero essere usati per limitare il lavoro di OpenAI con METR, le cui valutazioni indipendenti sono diventate particolarmente importanti nel contesto dell'esame degli incidenti che coinvolgono agenti fuori controllo.³

Il disaccordo pratico è ora netto. OpenAI descrive l'episodio come l'applicazione delle regole sulla gestione delle informazioni; i ricercatori lo vedono come una prova del fatto che la supervisione indipendente e il dissenso interno possano sopravvivere quando il lavoro sulla sicurezza diventa scomodo. Le loro raccomandazioni — revisori terzi integrati, modelli di frontiera monitorabili e dialogo aperto con la più ampia comunità della sicurezza — sono misure che, secondo quanto riferito, il promemoria di OpenAI ha dichiarato di sostenere.²