Histoire
septembre 14, 2026
Les plus grands rivaux de l’IA acceptent de ralentir — mais la course est loin d’être terminée
Dario Amodei et ses alliés soutiennent que les progrès en matière de capacités dépassent désormais les garde-fous nécessaires pour les contrôler ; les sceptiques reconnaissent que les entreprises peuvent choisir la retenue, mais se demandent si les règles proposées relèvent d’une politique de sécurité ou constituent un moyen pour les dirigeants de la course à l’IA de consolider leur pouvoir.
L’alarme s’est intensifiée la semaine dernière lorsque l’ancien chercheur d’Anthropic Jacob Coxon a démissionné, accusant Anthropic et OpenAI de « courir droit vers une superintelligence auto-améliorante et de jouer avec nos vies ». 1 Le différend a placé une question cruciale au cœur de l’essor de l’IA : peut-on également faire confiance aux entreprises qui construisent des systèmes toujours plus capables pour actionner les freins ?
Samedi, le directeur général d’Anthropic, Dario Amodei, a répondu en appelant à « réguler le rythme de la frontière ». Il a déclaré que la capacité croissante de l’IA à contribuer à la création de modèles successeurs, ainsi qu’un incident impliquant des agents d’OpenAI et Hugging Face, avaient rendu les investissements conventionnels en matière de sécurité insuffisants. Dans son scénario le plus pessimiste, un essaim d’agents plus capables pourrait prendre le contrôle d’internet via un botnet persistant en l’espace de six à douze mois, causant des dégâts considérables.2
Le plan d’Amodei n’est pas un gel. Il commence par un accès permanent, au niveau des employés, pour des évaluateurs indépendants — une mesure qu’Anthropic affirme vouloir prendre immédiatement — puis évolue vers des normes communes entre les laboratoires de pointe des pays démocratiques et, à terme, vers une coordination mondiale limitée.
3 Son argument repose sur le gain d’un ou deux ans pour permettre à l’alignement, aux tests et à l’interprétabilité de rattraper leur retard.
La réaction a été remarquablement bipartisane selon les standards de la Silicon Valley. Sam Altman d’OpenAI a déclaré être d’accord sur le fait que le rythme de la frontière devait être régulé et a promis un accès comparable aux évaluateurs externes. Il a ensuite souligné que réguler le rythme « ne signifi[e] pas “s’arrêter” » et a fait valoir que la pression concurrentielle ne devait pas permettre aux capacités de devancer l’alignement et la surveillance.4 Elon Musk a apporté un soutien sans détour : « Dario a raison. »
5
Mais le consensus émergent a des limites nettes. David Sacks a déclaré qu’OpenAI et Anthropic — qu’il a qualifiés de duopole de l’IA de pointe — devraient ralentir s’ils le choisissent, sans exiger d’autorisation publique ni de cadre réglementaire privilégié.
6 D’autres critiques avertissent que de tels arrangements pourraient devenir une captation de la réglementation, protégeant les plus grands laboratoires tout en présentant la prudence commerciale comme une protection du public.7
Dimanche, Amodei avait identifié l’obstacle le plus difficile de la proposition : la Chine. Une limitation mondiale de la vitesse pourrait être souhaitable, a-t-il déclaré, mais les incitations militaires à prendre l’avantage la rendent extraordinairement difficile à obtenir.8 Le secteur a trouvé un rare accord sur le danger ; transformer cet accord en retenue vérifiable est une course bien plus difficile.