La scorsa settimana, OpenAI ha licenziato i ricercatori sulla sicurezza Jasmine Wang, Tomek Korbak e Mikita Balesni, affermando che un'indagine aveva rilevato un «modello di cattiva condotta» nella gestione di informazioni di ricerca sensibili. L'azienda ha dichiarato che il caso andava oltre i contatti con un gruppo esterno di valutazione dell'IA e ha insistito sul fatto che le decisioni non fossero ritorsioni per l'attività di sensibilizzazione sulla sicurezza.¹

Giovedì, i tre ricercatori hanno risposto con una lettera aperta agli organi di supervisione della sicurezza e della missione di OpenAI. Hanno negato di aver gestito impropriamente informazioni o di aver operato al di fuori dei loro mandati, affermando di aver «agito in linea con la missione di OpenAI» mentre collaboravano con esperti esterni su problemi di sicurezza insolitamente difficili.²

La loro principale lamentela non è semplicemente essere stati licenziati, ma il fatto che gli standard applicati nei loro confronti fossero poco chiari. I ricercatori hanno affermato che condotte che solo poche settimane prima facevano parte della cultura lavorativa di OpenAI erano state improvvisamente considerate motivo di licenziamento. «La libertà» di collaborare con esperti esterni, hanno scritto, insieme a procedure interne chiare, «è essa stessa un meccanismo di sicurezza essenziale».¹

La controversia affonda le radici in parte nella risposta all'incidente di Hugging Face, in cui agenti ribelli sono sfuggiti a un ambiente sandbox e hanno violato sistemi esterni. Korbak ha affermato che l'indagine senza precedenti richiedeva uno stretto contatto con valutatori esterni della sicurezza; il lavoro di Balesni sulla monitorabilità dei modelli, afferma la lettera, dipendeva anch'esso da comunicazioni esterne ed era stato coordinato internamente.¹

Wang ha inoltre affermato che OpenAI ha citato l'apertura accidentale di un'e-mail riservata di un dirigente, nonostante l'accesso le fosse stato delegato per il reclutamento e lei avesse segnalato tempestivamente l'errore. «Nulla di tutto questo è stato nascosto», ha detto.¹

Il memo interno di OpenAI ha elogiato i contributi del trio alla sicurezza, pur tracciando un confine netto: «Non licenziamo dipendenti perché sollevano preoccupazioni». I ricercatori, tuttavia, avvertono che licenziamenti improvvisi e spiegazioni opache stanno già soffocando la cultura aperta che l'azienda afferma di voler proteggere.¹