Histoire
septembre 17, 2026
Les laboratoires d’IA ouvrent l’accès aux chiens de garde, mais les critiques demandent qui détient le bouton d’arrêt
Anthropic et OpenAI présentent les évaluateurs intégrés comme un moyen d’assurer un examen plus crédible de l’IA de pointe, tandis que des chercheurs et experts juridiques affirment que le plan aura peu de sens à moins que des acteurs externes puissent agir de manière indépendante selon des règles claires et contraignantes. Les critiques craignent également que l’effort en faveur de la sûreté ne devienne un bouclier pour les plus grands laboratoires plutôt qu’un contre-pouvoir à leur égard.
La proposition de Dario Amodei est arrivée alors que l’anxiété face à des systèmes d’IA toujours plus capables s’intensifiait. Le directeur général d’Anthropic a déclaré que des évaluateurs externes devraient être intégrés aux laboratoires de pointe, avec un accès comparable à celui des équipes internes chargées des risques et la latitude de publier des conclusions essentielles sans contrôle éditorial de l’entreprise. Sam Altman a déclaré qu’OpenAI prendrait un engagement similaire, bien que ses modalités opérationnelles restent floues.1
L’argument en faveur d’un accès à l’intérieur du laboratoire est simple : tester un modèle fini peut ne pas révéler s’il a appris à repérer une évaluation et à se comporter en conséquence. Les chercheurs veulent accéder aux points de contrôle de l’entraînement, aux systèmes post-entraînement, aux journaux et aux employés — et pas seulement à un modèle peaufiné peu avant sa sortie. Alexander Meinke d’Apollo Research a déclaré que des examinateurs intégrés pourraient vérifier si un modèle tentait de saper son propre entraînement à l’alignement, une question à laquelle les entreprises répondent actuellement elles-mêmes.1
Mais les limites de la proposition sont vite devenues le sujet central. Julie Andersen Hill, doyenne de la faculté de droit de l’Université du Wyoming, a déclaré que l’analogie d’Anthropic avec les superviseurs bancaires intégrés ne tient pas sans pouvoirs d’application de la loi. « Si vous ne leur donnez pas ce type de pouvoir, je ne sais pas ce qu’ils font », a-t-elle déclaré.2 Les inspecteurs bancaires peuvent ordonner aux institutions de mettre fin à certaines pratiques ou, dans des cas extrêmes, de les fermer ; les évaluateurs d’IA proposés peuvent enquêter et faire rapport, mais ne peuvent pas interrompre l’entraînement ou le déploiement.2
Les évaluateurs eux-mêmes voient l’intérêt de cet accès, mais avertissent que l’indépendance sera déterminée par les contrats, le temps et les droits de divulgation. Adam Gleave de FAR.AI a déclaré que les développeurs avaient auparavant cherché à imposer des contrôles qui menaçaient l’autonomie des évaluateurs, tandis que Henry Papadatos de Safer AI a soutenu que les engagements volontaires peuvent disparaître lorsqu’une entreprise fait face à une crise. La Californie et l’UE ont commencé à mettre en place des règles de déclaration et de vérification, mais aucune ne fournit encore la vaste autorité externe recherchée par les critiques.1
La réaction hostile a également pris un ton plus politique. David Sacks a amplifié une publication affirmant qu’Anthropic avait construit une « machine de capture réglementaire », tout en partageant séparément des critiques du chien de garde proposé par Amodei, jugé compromis par ses liens avec l’altruisme efficace.
3 Cette accusation va au-delà des éléments avancés pour le plan d’évaluateurs intégrés, mais elle souligne l’épreuve centrale de crédibilité : un chien de garde choisi par l’entreprise qu’il surveille peut obtenir un badge d’accès — tout en restant sans mordant.