Le différend a commencé la semaine dernière, lorsqu'OpenAI a licencié les chercheurs en sécurité Jasmine Wang, Tomek Korbak et Mikita Balesni à l'issue d'une enquête interne. L'entreprise a déclaré avoir constaté un « schéma de faute professionnelle » concernant le traitement d'informations de recherche sensibles et a soutenu que l'affaire allait au-delà de contacts avec un groupe externe d'évaluation de l'IA.¹

Les chercheurs rejettent cette version des faits. Dans une lettre ouverte aux instances de sécurité d'OpenAI, ils ont déclaré avoir agi conformément à la mission de l'entreprise et aux pratiques de travail habituelles — notamment durant l'enquête sans précédent sur une compromission d'agent impliquant Hugging Face. Ils ont fait valoir que le personnel chargé de la sécurité doit pouvoir consulter des experts externes sans crainte : « La liberté de le faire sans crainte, ainsi que l'existence de procédures internes bien définies permettant ce travail, constituent elles-mêmes un mécanisme de sécurité essentiel. »¹

Leurs explications individuelles ont accentué le conflit. Balesni a déclaré que son travail avec des organisations tierces de sécurité avait été coordonné avec des responsables, la direction de la recherche et des membres du conseil d'administration ; Korbak a déclaré que la communication avec l'organisation à but non lucratif METR faisait partie de son travail. Wang a déclaré avoir été licenciée pour avoir ouvert par inadvertance un e-mail d'un dirigeant après que le service informatique n'a pas supprimé un accès au recrutement auquel elle avait demandé à renoncer.²

La réponse interne d'OpenAI, telle que décrite dans des articles de presse, adoptait un ton différent : un responsable de la recherche a salué les contributions du trio à la sécurité et a déclaré que l'entreprise avait « toujours encouragé » les employés à faire part de leurs préoccupations. « Nous ne licenciions pas des employés pour avoir soulevé des préoccupations », indiquait la note.²

Mais les anciens employés affirment que l'absence d'explications écrites détaillées empêche leurs collègues de savoir quels comportements sont sans risque. Ils avertissent que les licenciements pourraient servir à restreindre le travail d'OpenAI avec METR, dont les évaluations indépendantes sont devenues particulièrement importantes dans le contexte d'un examen accru des incidents impliquant des agents incontrôlables.³

Le désaccord pratique est désormais manifeste. OpenAI présente l'épisode comme l'application de règles de gestion de l'information ; les chercheurs y voient un test permettant de savoir si une supervision indépendante et la dissidence interne peuvent survivre lorsque le travail sur la sécurité devient inconfortable. Leurs recommandations — des auditeurs tiers intégrés, des modèles de pointe pouvant être surveillés et un dialogue ouvert avec la communauté élargie de la sécurité — sont des mesures que la note d'OpenAI aurait, selon les informations disponibles, déclaré soutenir.²