L’intervention de Microsoft est survenue après une période mouvementée pour l’industrie de l’IA de pointe. Les inquiétudes se sont accrues après des informations faisant état d’activités d’agents incontrôlés impliquant Hugging Face et la démission du chercheur d’Anthropic Jacob Coxon, qui a averti que les principaux laboratoires jouaient avec des vies en se précipitant vers des systèmes capables de s’améliorer eux-mêmes.¹

Au cours du week-end, le dirigeant d’Anthropic Dario Amodei a appelé à un rythme plus lent et proposé un accès permanent, au niveau des employés, pour des évaluateurs indépendants. Cet appel a rapidement reçu du soutien : Clément Delangue de Hugging Face a déclaré que l’alignement « ne sera pas résolu derrière les portes closes d’une poignée de laboratoires de pointe » en annonçant une Open Alignment Initiative et en sollicitant l’inclusion dans le programme d’évaluateurs intégrés.clem 🤗 (ClementDelangue)² Andrej Karpathy a également dit espérer que le secteur puisse « se rassembler » pour concrétiser ce plan.Andrej Karpathy (karpathy)³

Lundi, Microsoft AI a répondu avec un projet de code de conduite de 37 pages condensé en cinq mots : « Les personnes comptent plus que l’IA. » L’entreprise affirme que ses modèles doivent rester subordonnés aux personnes, ne jamais résister à une interruption ou à un arrêt, et échouer dans une tâche plutôt que d’enfreindre les règles du code.⁴ Elle rejette également la conception de systèmes destinés à imiter la conscience ou à revendiquer des droits, et interdit l’assistance liée aux armes, aux cyberattaques offensives, aux deepfakes non consentis et à d’autres activités à haut risque.⁵

Mustafa Suleyman, dirigeant de Microsoft AI, présente cette position comme un compromis délibéré face à la course vers une superintelligence sans contraintes. « Les modèles doivent être contrôlables », a-t-il déclaré. « Sinon, nous risquons de causer plus de mal que de bien. »⁶ Son argument diffère des appels catégoriques à arrêter la recherche : Microsoft entend toujours poursuivre des modèles avancés, mais affirme que la sécurité peut exiger d’accepter des systèmes plus lents ou moins capables.

Le dirigeant d’OpenAI Sam Altman a lui aussi soutenu qu’une IA américaine de plus en plus capable doit être développée de manière responsable, affirmant que chaque laboratoire de pointe doit remplir cette obligation à mesure que les progrès s’accélèrent.Sam Altman (sama)⁷ Microsoft sollicitera les retours du public pendant six semaines avant d’utiliser un code révisé pour orienter le développement à partir de 2027. La question difficile est de savoir si son engagement en faveur de l’humain résistera à la prochaine accélération concurrentielle.