Anthropic a fait passer son modèle proposé de supervision de l’IA de pointe de la théorie à une expérimentation concrète, en désignant Accenture comme son premier évaluateur intégré. L’entreprise et le cabinet de conseil prévoient chacun d’investir au moins 1 milliard de dollars sur cinq ans pour développer les capacités d’évaluation, l’activité spécialisée en IA d’Accenture, Faculty, pilotant les travaux.¹

L’accord est conçu pour aller plus loin que les audits externes conventionnels. Anthropic affirme que les évaluateurs intégrés travailleront au sein des entreprises d’IA avec un accès comparable à celui des employés : en observant les modèles se développer pendant l’entraînement, en suivant les décisions tout au long du déploiement, en s’entretenant directement avec le personnel et en évaluant si les engagements de sécurité sont respectés. Accenture devrait soumettre les modèles à des tests red team, réaliser des évaluations d’alignement et tester les garde-fous, tout en apportant son expérience de la manière dont les entreprises et les gouvernements utilisent l’IA.¹

Anthropic soutient que la proximité peut renforcer l’examen plutôt que le diluer. « Les évaluateurs intégrés indépendants ne réduisent pas notre responsabilité, mais contribuent à la rendre plus vérifiable », a déclaré l’entreprise, tout en soulignant que la responsabilité ultime de la sécurité des modèles reste à Anthropic.¹

Mais l’annonce met aussi en lumière les faiblesses de ce modèle de supervision émergent. Il n’existe pas de normes établies concernant l’accès, le reporting ou le financement d’un évaluateur, et Anthropic financera directement le travail d’Accenture car il n’existe pas encore de financement mutualisé ou soutenu par les pouvoirs publics. L’entreprise affirme discuter avec METR et d’autres évaluateurs à but non lucratif, espérer à terme travailler avec plusieurs groupes, et qualifie le partenariat avec Accenture de non exclusif.¹

La réponse sceptique se résume à une seule question incisive : « Le premier évaluateur intégré d’Anthropic est… Accenture ? »² Cette formulation ne remet pas en cause la nécessité de tests rigoureux. Elle interroge la capacité d’un cabinet de conseil rémunéré par le laboratoire qu’il examine à fournir l’indépendance que promet l’expérimentation. Les prochains choix d’évaluateurs d’Anthropic — et les règles régissant ce qu’Accenture peut divulguer — détermineront s’il s’agit d’un modèle crédible de sécurité ou d’une forme sophistiquée d’auto-supervision.