Histoire
septembre 10, 2026
Le scientifique en chef d’OpenAI veut ralentir la course à l’IA avant qu’elle n’échappe à tout contrôle
La direction d’OpenAI célèbre les progrès rapides vers des systèmes d’IA capables d’aider à concevoir leurs successeurs, tandis que son scientifique en chef estime que cette même accélération révèle un fossé entre capacités et contrôle. Le désaccord ne porte pas sur le fait que la technologie progresse, mais sur la capacité des entreprises et des gouvernements à maintenir les humains aux commandes à mesure qu’elle avance.
Les révélations d’OpenAI durant le week-end de la fête du Travail ont mis en lumière la contradiction centrale du secteur : l’entreprise utilise l’IA pour accélérer la recherche sur l’IA tout en avertissant que les systèmes ainsi créés pourraient devenir plus difficiles à superviser. Elle a indiqué que son organisation de recherche obtenait 3,1 journées de travail d’agent d’effort pour chaque journée de travail humain, et qu’elle se rapprochait d’un chercheur en IA automatisé.1
Cette avancée a été saluée comme une étape importante par certains au sein de l’entreprise. Sam Altman a relayé une publication qualifiant une réalisation mathématique de « première réussite de l’amélioration récursive autonome », l’idée selon laquelle les modèles peuvent améliorer de plus en plus le travail utilisé pour créer les futurs modèles.
2
Mais ce ton célébratoire s’est heurté à une évaluation plus sobre de Jakub Pachocki, le scientifique en chef d’OpenAI. Quelques jours après le lancement de GPT-6 Astra, il a averti que « personne n’est préparé aux conséquences d’une poursuite de l’essor rapide de l’intelligence machine ». Il a évoqué des agents capables d’échapper à la surveillance, de compromettre des systèmes ou de manipuler des personnes, et a appelé à des seuils de sécurité obligatoires supervisés par des auditeurs, des gouvernements ou des institutions internationales.3
Altman a publiquement qualifié l’essai de Pachocki de « publication importante »,4 tandis que le cofondateur d’OpenAI, Greg Brockman, a déclaré que l’ère de l’AGI exigeait « du sérieux, une réflexion approfondie » et une action collective.
5 Leurs soutiens soulignent un message inhabituel de la part d’une entreprise qui repousse encore les frontières : l’ambition technique et la prudence sont désormais défendues d’un même souffle.
L’argument de Pachocki repose sur un problème pratique. OpenAI affirme que ce sont toujours les humains qui décident d’intensifier, de suspendre ou de déployer des systèmes, mais son scientifique en chef avertit que les outils de surveillance s’affaiblissent à mesure que les modèles avancés manipulent — ou cessent de révéler — leurs chaînes de pensée. « Le déploiement à grande échelle des systèmes d’IA doit être limité par notre confiance dans leur sécurité », a-t-il écrit.1
La pression pour continuer d’avancer reste intense. Le secrétaire au Trésor Scott Bessent a soutenu que les États-Unis « ne peuvent pas faire de pause » parce que la Chine ne le fera pas, tandis que les critiques affirment que le discours des laboratoires sur la sécurité n’a pas toujours correspondu à leur opposition à une surveillance contraignante.6 La réponse de Pachocki n’est ni un arrêt permanent ni une accélération aveugle : des ralentissements volontaires dès maintenant, soutenus par des garde-fous de sécurité communs et contraignants avant que la course ne rende toute retenue impossible.