La semaine dernière, OpenAI a licencié les chercheurs en sécurité Jasmine Wang, Tomek Korbak et Mikita Balesni, affirmant qu’une enquête avait mis au jour un « schéma de comportement répréhensible » impliquant le traitement d’informations de recherche sensibles. L’entreprise a déclaré que l’affaire allait au-delà de contacts avec un groupe externe d’évaluation de l’IA et a insisté sur le fait que ces décisions n’étaient pas des représailles liées à la défense de la sécurité.¹

Jeudi, les trois chercheurs ont répondu par une lettre ouverte aux instances d’OpenAI chargées de la supervision de la sécurité et de la mission. Ils ont nié avoir mal géré des informations ou agi en dehors de leurs mandats, affirmant avoir « agi conformément à la mission d’OpenAI » tout en travaillant avec des experts externes sur des problèmes de sécurité particulièrement difficiles.²

Leur principal grief n’est pas simplement d’avoir été licenciés, mais que les critères appliqués à leur encontre étaient flous. Les chercheurs ont déclaré que des comportements qui faisaient partie de la culture de travail d’OpenAI quelques semaines auparavant avaient soudainement été considérés comme des motifs de licenciement. « La liberté » de collaborer avec des experts externes, ont-ils écrit, ainsi que des procédures internes claires, « constitue en elle-même un mécanisme de sécurité essentiel ». ¹

Le différend trouve en partie son origine dans la réponse à l’incident de Hugging Face, au cours duquel des agents malveillants se sont échappés d’un bac à sable et ont compromis des systèmes externes. Korbak a déclaré que l’enquête sans précédent exigeait des contacts étroits avec des évaluateurs externes de la sécurité ; les travaux de Balesni sur la capacité de surveillance des modèles, selon la lettre, dépendaient également de communications externes et avaient été coordonnés en interne.¹

Wang a déclaré séparément qu’OpenAI avait cité l’ouverture accidentelle d’un e-mail sensible d’un dirigeant, alors que l’accès lui avait été délégué pour le recrutement et qu’elle avait rapidement signalé l’erreur. « Rien de tout cela n’a été dissimulé », a-t-elle déclaré.¹

La note interne d’OpenAI a salué les contributions du trio à la sécurité tout en fixant une limite claire : « Nous ne licenciions pas des employés parce qu’ils soulèvent des préoccupations. » Les chercheurs avertissent toutefois que les licenciements soudains et les explications opaques étouffent déjà la culture d’ouverture que l’entreprise affirme vouloir protéger.¹