David Robinson a passé trois ans et demi au sein de l’équipe de sécurité d’OpenAI, travaillant sur la transparence, la préparation et les rapports destinés au public visant à expliquer le comportement des modèles de l’entreprise. Dès le début septembre, il signalait déjà son malaise : OpenAI évoluait rapidement, écrivait-il, mais il ne savait pas si elle évoluait assez vite.¹

Cette inquiétude s’est accrue dans un contexte plus difficile. Les rangs de la sécurité chez OpenAI avaient été ébranlés par des départs antérieurs, notamment celui du responsable de la sécurité Johannes Heidecke, tandis que l’entreprise faisait l’objet d’un examen après des incidents de sécurité et des signalements de comportements inappropriés des modèles. Elle a également indiqué s’être séparée de trois chercheurs pour des violations présumées des politiques régissant les informations sensibles.¹

La semaine dernière, Robinson a démissionné de l’équipe Safety Systems. Dans un essai publié samedi, il a soutenu que le rythme du travail rendait la réforme interne bien plus difficile qu’elle n’en avait l’air. « Mes collègues et moi étions si occupés à sprinter que nous avions rarement l’occasion d’envisager de grands changements, encore moins de les mettre réellement en œuvre », a-t-il écrit.²

Sa conclusion était sans équivoque : « Des incitations plus fortes en faveur de la sécurité — venant de l’extérieur de l’entreprise — constituent une grande part de la solution. » Robinson a déclaré espérer désormais aider le public à comprendre les risques qu’il a rencontrés et accroître la pression sur OpenAI et les entreprises rivales afin qu’elles agissent avec davantage de prudence.²

OpenAI rejette l’idée que les capacités puissent devancer les contrôles. Un porte-parole a déclaré que l’entreprise renforçait ses pratiques de sécurité et de sûreté à mesure que ses modèles s’améliorent, en recourant à des évaluateurs tiers et à une surveillance plus précoce des comportements préoccupants. La promesse centrale de l’entreprise est qu’elle n’avancera pas sans tenir compte des risques : « Nous suspendons l’entraînement ou retenons des modèles lorsque nous devons ralentir. »²

Le désaccord porte moins sur la nécessité de garde-fous pour l’IA avancée que sur la question de savoir qui peut les faire appliquer de manière fiable. Robinson a choisi le levier externe ; OpenAI affirme que ses systèmes internes peuvent encore faire le travail.