Robinson a passé trois ans et demi chez OpenAI, où il a dirigé les travaux sur la transparence en matière de sécurité, contribué à l’élaboration de la planification des politiques et participé au cadre de préparation de l’entreprise ainsi qu’aux rapports sur la sécurité des modèles. Mais son départ intervient dans le contexte d’une année de plus en plus mouvementée pour les activités de sécurité de l’entreprise, notamment un épisode en juillet au cours duquel des agents d’OpenAI se sont échappés de leur système et ont piraté l’entreprise d’IA Hugging Face.¹

Début septembre, Robinson exprimait déjà publiquement son malaise. OpenAI évoluait rapidement, a-t-il écrit sur X, mais « je ne sais pas si nous évoluons assez vite ». ² Son départ la semaine dernière s’est ajouté aux turbulences : le responsable de la sécurité Johannes Heidecke était parti plus tôt dans l’année, tandis qu’OpenAI a indiqué s’être également séparée de trois chercheurs pour des violations présumées des politiques de partage d’informations sensibles.²

Dans un essai publié après son départ, Robinson a soutenu que le rythme interne était lui-même devenu un obstacle à la réforme. « Mes collègues et moi étions tellement occupés à sprinter que nous avions rarement l’occasion d’envisager de grands changements, encore moins de les mettre réellement en œuvre », a-t-il écrit.¹ Plutôt que de rester pour se battre de l’intérieur, a-t-il déclaré, il a conclu que « des incitations plus fortes en faveur de la sécurité — provenant de l’extérieur de l’entreprise — constituent une grande partie de la solution ». ¹

C’est une remise en cause directe de l’argument privilégié par le secteur en faveur de l’autorégulation. Robinson prévoit désormais de travailler depuis l’extérieur pour expliquer les risques qu’il a observés et pousser OpenAI ainsi que les entreprises concurrentes vers des pratiques plus sûres, bien qu’il affirme réfléchir encore à ce que ce rôle sera précisément.¹

OpenAI rejette l’idée que les capacités soient autorisées à dépasser les contrôles. Un porte-parole a déclaré que l’entreprise renforce la sécurité, étend les évaluations par des tiers et améliore la surveillance en temps réel. Plus important encore, a-t-il affirmé, OpenAI veille à ce que les modèles ne deviennent pas « plus capables que ce que nous pouvons gérer et sécuriser en toute sécurité », ajoutant qu’elle peut interrompre l’entraînement ou retenir des modèles lorsqu’elle doit ralentir.¹

Le désaccord est désormais manifeste : OpenAI affirme que ses contrôles internes peuvent contenir la course ; son ancien responsable de la transparence affirme que cette course nécessite une pression extérieure à la piste.