Histoire
septembre 16, 2026
L'appel de l'IA à la sécurité se heurte à un défi direct : ralentissez vos propres laboratoires
Amodei et les dirigeants alliés des laboratoires de frontière soutiennent que ralentir les gains de capacité est nécessaire pour maintenir sous contrôle une IA de plus en plus autonome. Leurs détracteurs ne rejettent pas la responsabilité, mais se demandent pourquoi des entreprises ayant le pouvoir d’arrêter leurs propres systèmes ont besoin de règles qui pourraient également protéger leur domination.
Le débat a éclaté au grand jour après la démission de Jacob Coxon, chercheur chez Anthropic, qui a averti que les principaux laboratoires « jouaient avec nos vies » dans une course vers une IA auto-améliorante.1
Samedi, le PDG d’Anthropic, Dario Amodei, a répondu en appelant à « rythmer la frontière » : « Nous devons ralentir le rythme auquel nous améliorons les capacités des modèles d’IA. »2 Sa crainte n’est pas abstraite. Citant un incident OpenAI-Hugging Face impliquant des agents incontrôlables, Amodei a averti que, d’ici six à 12 mois, un essaim plus capable pourrait prendre le contrôle d’Internet au moyen d’un botnet persistant, infligeant des centaines de milliards de dollars de dégâts.2
Sa prescription est délibérément plus limitée qu’un arrêt complet. Anthropic affirme qu’il donnera à des évaluateurs externes un accès équivalent à celui des employés afin d’évaluer les garde-fous et de signaler les incidents ; Amodei souhaite également que les gouvernements démocratiques et les laboratoires de frontière coordonnent des normes, avant de rechercher à terme une coopération limitée avec les États autoritaires.3 « Anthropic s’engage unilatéralement » à prendre cette mesure concernant les évaluateurs, a-t-il déclaré.
4
Le soutien est arrivé rapidement. Sam Altman d’OpenAI a déclaré qu’il était d’accord sur le fait que la frontière devait être rythmée, présentant l’enjeu comme celui d’éviter un avenir dans lequel l’IA ne servirait plus les gens.
5 Elon Musk s’est montré plus succinct : « Dario a raison. »
6
Mais ce soutien a révélé la ligne de fracture politique. David Sacks a soutenu qu’Amodei et Altman peuvent poursuivre ainsi parce que, en termes de parts de marché, de croissance des revenus et de capacités des modèles, leurs entreprises détiennent un « duopole » de l’IA de frontière.
7 Yann LeCun a amplifié une objection plus tranchante : OpenAI avait « tout le contrôle du monde » et pouvait simplement éteindre ses machines.
8
Cette critique fait écho à un scepticisme plus large selon lequel la rhétorique de la catastrophe pourrait masquer les préjudices actuels — ou entraîner une captation réglementaire profitant à Anthropic et OpenAI.3 Le conflit ne porte plus seulement sur la question de savoir si l’IA est dangereuse. Il porte sur qui devrait décider du moment où le progrès s’interrompt — et sur la question de savoir si les entreprises exigeant la prudence devraient d’abord prouver qu’elles peuvent se limiter elles-mêmes.