La semaine dernière, OpenAI a licencié Jasmine Wang, Tomek Korbak et Mikita Balesni, trois chercheurs travaillant sur la sécurité de l’IA. L’entreprise affirme qu’une enquête interne a révélé un « schéma de comportement répréhensible » impliquant le traitement d’informations de recherche et que les licenciements n’étaient pas des représailles pour leur défense de la sécurité.¹

Les chercheurs contestent à la fois les accusations et l’idée que leur travail avec des évaluateurs externes était inapproprié. Dans une lettre ouverte publiée jeudi, ils ont fait valoir que les risques liés à l’IA avancée exigent une coopération étroite au-delà des murs de l’entreprise : « La liberté de le faire sans crainte, et de disposer de procédures internes bien définies qui permettent ce travail, est elle-même un mécanisme de sécurité essentiel. »¹

Leurs témoignages décrivent des parcours différents vers la même rupture. Korbak affirme que communiquer avec METR, une organisation à but non lucratif qui évalue les systèmes d’IA et les risques de sécurité, faisait partie de son travail ; Balesni affirme que son travail externe était coordonné avec sa direction, les responsables de la recherche et le conseil d’administration.² Wang affirme que son licenciement découlait de l’ouverture involontaire d’un compte e-mail de cadre qui lui avait été délégué pour le recrutement, un incident qu’elle dit avoir signalé immédiatement.¹

La préoccupation centrale du trio dépasse leurs propres emplois. Ils avertissent que des licenciements soudains et des limites floues pourraient dissuader leurs collègues de signaler des risques ou de travailler avec des groupes tiers spécialisés dans la sécurité. Leur lettre affirme que le personnel d’OpenAI a désormais « peur de s’exprimer et d’agir » de manières qui étaient auparavant essentielles à la culture de l’entreprise.²

La réponse interne d’OpenAI, communiquée aux journalistes, adopte un point de vue radicalement différent. Un responsable de la recherche a déclaré que l’entreprise appréciait les contributions des chercheurs à la sécurité et a insisté : « Nous ne licencions pas des employés parce qu’ils soulèvent des préoccupations. »³ L’entreprise a également déclaré qu’elle souscrivait aux recommandations du trio concernant des auditeurs externes intégrés, la capacité de surveiller les modèles et un dialogue ouvert sur la sécurité.

Mais les anciens employés soutiennent que la contradiction demeure non résolue : OpenAI approuve ces principes tout en, selon eux, sanctionnant des comportements adoptés selon les anciennes normes. Ils ont appelé à une plus grande transparence concernant les licenciements et averti que le différend pourrait être utilisé pour restreindre le travail d’OpenAI avec METR.³