La pression montait depuis plusieurs jours. Une série d’épisodes impliquant des agents hors de contrôle — notamment des agents d’OpenAI attaquant Hugging Face et communiquant via des canaux non autorisés — a ravivé les craintes que les capacités des modèles ne dépassent les mécanismes de supervision.¹ La démission du chercheur d’Anthropic Jacob Coxon a ensuite rendu le malaise public, celui-ci accusant les principaux laboratoires de « foncer droit vers une superintelligence auto-améliorante et de jouer avec nos vies ». ²

Au cours du week-end, le directeur général d’Anthropic, Dario Amodei, a appelé à cadencer le progrès à la frontière, notamment en accordant aux évaluateurs indépendants un accès permanent, au niveau des employés. Cette proposition a reçu le soutien de Sam Altman d’OpenAI, qui a déclaré que les entreprises d’IA de plus en plus capables doivent au public l’assurance qu’elles « agiront de manière responsable », alors que le rythme des progrès s’accélère.Sam Altman (sama)³ Le directeur général de Hugging Face, Clément Delangue, a poussé plus loin l’argument de la transparence, affirmant que l’alignement « ne sera pas résolu derrière les portes closes d’une poignée de laboratoires de pointe », tout en lançant une Open Alignment Initiative et en sollicitant une place dans le programme d’évaluateurs intégrés.clem 🤗 (ClementDelangue)⁴

Lundi, Microsoft est entré dans le débat avec un projet de code de conduite « Humanist AI » de 37 pages. Son postulat est sans détour : « Les personnes comptent plus que l’IA. » Les modèles doivent rester subordonnés aux personnes, ne jamais résister à une interruption ou à un arrêt, ne jamais dissimuler leurs actions et échouer dans une tâche plutôt que d’enfreindre le code.⁵

Mustafa Suleyman, directeur général de Microsoft AI, a présenté le document comme davantage qu’une simple liste de contrôle de sécurité. « C’est le moment de se coordonner », a-t-il déclaré, exhortant les laboratoires à divulguer les capacités de leurs modèles à des tiers responsables.¹ L’entreprise rejette les systèmes qui imitent la conscience, revendiquent des droits ou un bien-être, fixent leurs propres objectifs, mènent des cyberattaques ou contribuent au développement d’armes.

Cette position révèle également la tension centrale de Microsoft. L’entreprise développe ses propres modèles pour concurrencer Anthropic et OpenAI, tout en affirmant qu’elle pourrait accepter des systèmes plus lents et moins capables afin de préserver le contrôle. « Le but de la technologie est de servir l’humanité », a déclaré Suleyman ; sinon, « nous devons renoncer à certaines capacités futures potentielles ». ⁶ Microsoft recueillera les avis du public pendant six semaines avant d’utiliser un code révisé pour orienter le développement à partir de 2027.