Histoire
septembre 16, 2026
Le consensus sur la sécurité de l’IA se heurte à un défi simple : ralentissez vous-mêmes
Anthropic soutient que l’IA, qui progresse rapidement, a besoin de temps, d’un contrôle extérieur et de garde-fous internationaux avant que les défaillances de sécurité ne dépassent le contrôle humain. Ses soutiens partagent cette inquiétude, tandis que ses critiques estiment qu’un appel à une retenue à l’échelle du secteur ne peut se substituer à la décision des laboratoires de pointe de se retenir eux-mêmes.
Le dernier affrontement sur la sécurité de l’IA a commencé par une rupture inhabituellement publique au sein d’Anthropic. Le chercheur Jacob Coxon a démissionné, accusant les principaux laboratoires de courir vers des systèmes auto-améliorants tout en « jouant nos vies » ; d’autres employés d’Anthropic ont relayé publiquement l’avertissement.1
Quelques jours plus tard, le directeur général d’Anthropic, Dario Amodei, a fait passer le débat de l’alarme interne à une proposition concrète. Il a déclaré que les capacités de l’IA progressaient trop vite pour que les garde-fous puissent suivre, avertissant que des systèmes de plus en plus capables pourraient bientôt permettre des comportements destructeurs d’agents autonomes. « Nous devons ralentir le rythme auquel nous améliorons les capacités des modèles d’IA », a-t-il écrit.2
La première initiative d’Amodei était délibérément unilatérale : Anthropic donnerait à des évaluateurs indépendants un accès permanent, au même niveau que les employés, leur permettant d’inspecter les pratiques de sécurité et de signaler les incidents. Son plan plus large appelle à des limites partagées entre les laboratoires de pointe des pays démocratiques et, aussi difficile que cela soit, à une coordination avec des gouvernements autoritaires sur des dangers ciblés tels que les armes biologiques facilitées par l’IA.3 Sur X, Amodei l’a présenté comme un plan en trois volets et a déclaré qu’Anthropic s’engageait déjà dans la première étape.
4
Le message a trouvé de rares alliés. La réponse d’Elon Musk était sans détour : « Dario a raison. »
5 Sam Altman a lui aussi soutenu que perdre le contrôle de l’avenir au profit de l’IA était inacceptable et que des systèmes de plus en plus capables devaient servir les gens.
6
Mais l’accord s’est brisé sur la question de savoir qui devait agir en premier. David Sacks a souligné qu’Anthropic et OpenAI dominent de fait la frontière technologique, déclarant à Amodei et Altman : « allez-y. Vous êtes la frontière. »
7 Sa formulation plus incisive était que les entreprises devraient rendre leurs produits sûrs « sans exiger la moindre concession du gouvernement ». 8
C’est l’épreuve brutale qui se cache sous le consensus apparent : les défenseurs de la sécurité veulent des règles collectives pour empêcher une course que personne ne peut se permettre de perdre ; leurs critiques y voient une norme plus simple. Si le danger est aussi immédiat qu’on le dit, les laboratoires n’ont besoin de la permission de personne pour ralentir.