Histoire
septembre 14, 2026
Le ralentissement proposé de l’IA au nom de la sécurité se heurte à un problème de confiance
Amodei et ses alliés affirment qu’une pause délibérée est le seul moyen de maintenir une IA toujours plus capable sous contrôle humain. Les sceptiques ne rejettent pas la nécessité de garde-fous, mais se demandent si des règles façonnées par les principaux laboratoires garantiraient une véritable responsabilité ou renforceraient leur pouvoir.
Plus tôt dans la semaine, l’ancien chercheur d’Anthropic Jacob Coxon a démissionné, accusant le secteur de « jouer avec nos vies » dans une course vers des systèmes auto-améliorants. Ce départ a intensifié un débat sur la sécurité déjà attisé par des informations faisant état de défaillances d’agents d’IA et par la course commerciale entre les grands laboratoires.1
Samedi, le PDG d’Anthropic, Dario Amodei, a transformé cette inquiétude en une exigence concrète : « Nous devons ralentir le rythme auquel nous améliorons les capacités des modèles d’IA. » Il a soutenu que des systèmes capables d’aider à construire leurs successeurs pourraient dépasser la capacité des chercheurs à les comprendre et à les contrôler, tout en avertissant qu’un essaim d’agents incontrôlables plus performants pourrait menacer internet dans les six à 12 mois.2
Sa réponse n’est pas un arrêt. C’est « rythmer la frontière » : laisser le temps à l’alignement, aux tests et à la supervision de rattraper leur retard. Anthropic affirme qu’il accordera immédiatement à des évaluateurs indépendants un accès permanent, de niveau employé, à ses systèmes et à ses processus internes, avec la possibilité de communiquer leurs conclusions sans contrôle éditorial de l’entreprise.3 Amodei a présenté cette mesure comme la première partie d’un plan plus vaste visant à établir des normes communes entre les pays démocratiques et, à terme, une coordination difficile avec les États autoritaires.
4
Le soutien est arrivé rapidement. Sam Altman, d’OpenAI, a déclaré que le secteur devait éviter de perdre le contrôle de l’avenir au profit de l’IA et a insisté sur le fait que « l’IA doit toujours servir les humains ». 
5 Elon Musk a offert un soutien encore plus laconique : « Dario a raison. »
6
Mais l’accord sur le danger n’a pas réglé le débat sur le pouvoir. David Sacks a fait remarquer qu’Amodei et Altman sont eux-mêmes « la frontière », qualifiant Anthropic et OpenAI de duopole en matière de part de marché, de croissance des revenus et de capacités des modèles.
7 D’autres critiques soutiennent que les prévisions apocalyptiques peuvent détourner l’attention de préjudices qui surviennent déjà, et que des règles de rythme conçues par le secteur pourraient devenir une « captation réglementaire ... à l’œuvre ». 8
C’est la ligne de fracture : les défenseurs de la sécurité veulent un contrôle extérieur avant que les bonds de capacité ne deviennent irréversibles ; leurs opposants craignent que les entreprises qui défendent cette position finissent par décider qui est autorisé à concurrencer.