La fracture était visible avant même la réunion du Conseil de sécurité. Le 13 septembre, le président Donald Trump a présenté l’intelligence artificielle comme une compétition géopolitique, déclarant : « celui qui gagnera l’IA, gagnera. » Quelques jours plus tard, il a déclaré à l’Assemblée générale de l’ONU que les États-Unis « rejettent totalement toute tentative de construire un système mondialiste pour contrôler » cette technologie.¹

Cette position a accentué les enjeux le 22 septembre, lorsque le secrétaire général António Guterres a mis en garde contre les « robots tueurs » — une préoccupation que des experts et des dirigeants européens ont jugée déjà réelle ou dangereusement proche de le devenir.²

Lors de la session de mercredi du Conseil de sécurité, les créateurs de cette technologie ont défendu une position sensiblement différente : les progrès rapides exigent des règles collectives, et non une course sans freins. Le patron d’OpenAI, Sam Altman, a déclaré que l’IA pourrait inaugurer « une nouvelle renaissance de la créativité et de la découverte », mais qu’elle pourrait aussi entraîner « bouleversements et désordre ».³ Son avertissement central était sans détour : des systèmes de plus en plus autonomes pourraient dépasser les institutions, concentrer le pouvoir et prendre des décisions que les humains ne peuvent plus comprendre ni contrôler.

Altman a soutenu que des probabilités de catastrophe, même de l’ordre d’une fraction de pour cent, étaient inacceptables, et que le secteur ne devrait pas entraîner des modèles pour lesquels il ne peut pas démontrer solidement qu’ils peuvent rester sous contrôle humain. Il a appelé à des normes communes pour évaluer les capacités et les risques, vérifier les garanties, signaler rapidement les incidents et préserver une supervision humaine effective.³

Le PDG d’Anthropic, Dario Amodei, a défendu la même idée générale sous l’angle d’une menace plus immédiate. Une IA mal gérée, a-t-il déclaré, pourrait constituer « un risque pour l’humanité dans son ensemble » ; il a appelé à des accords interdisant les armes biologiques produites par l’IA, à des tests et vérifications partagés, ainsi qu’à un système mondial de notification des incidents majeurs de sécurité.¹

Le cofondateur de Hugging Face, Clément Delangue, a proposé une approche complémentaire après une cyberattaque par agent contre son entreprise : davantage de transparence et davantage d’IA open source, afin que les défenseurs ne soient pas laissés dans une situation de désavantage asymétrique.clem 🤗 (ClementDelangue)⁴ Il a souligné que l’IA avait aidé Hugging Face à répondre à l’attaque et à identifier les faiblesses — une réfutation de l’idée selon laquelle la peur seule devrait guider les politiques.¹

Les dirigeants s’accordaient sur le danger d’un pouvoir sans contrôle, mais pas seulement sur la nécessité de la retenue. Leur message était que la sécurité, la responsabilité démocratique et l’accès aux outils de défense doivent progresser ensemble — alors même que Washington laisse entendre qu’il pourrait s’opposer à une architecture mondiale contraignante.