Anthropic a franchi sa première étape concrète vers le développement plus lent et plus étroitement supervisé de l’IA de pointe prôné par son directeur général, Dario Amodei : faire entrer Accenture au sein de l’entreprise afin d’évaluer ses modèles les plus puissants.

Le partenariat, piloté par Faculty, l’unité spécialisée en IA d’Accenture, comprendra des exercices de red teaming des modèles, l’évaluation de l’alignement et le test des garde-fous. Contrairement aux examinateurs externes classiques, les évaluateurs intégrés devraient recevoir un accès comparable à celui d’un employé d’Anthropic — suffisant pour observer l’entraînement, retracer les décisions relatives au développement et au déploiement, et s’adresser directement au personnel. Anthropic soutient que cette proximité est précisément l’objectif : elle peut révéler des angles morts et permettre aux examinateurs de signaler des incidents depuis un point de vue éclairé. « Les évaluateurs intégrés indépendants ne réduisent pas notre responsabilité, mais contribuent à la rendre plus vérifiable », a déclaré l’entreprise.¹

L’annonce fait suite à l’appel d’Amodei invitant les développeurs d’IA à soumettre leurs pratiques de sécurité à l’examen de tiers, à mesure que les modèles gagnent en capacités. Anthropic affirme rester responsable de la sécurité de ses systèmes et avoir l’intention de travailler avec plusieurs évaluateurs, dont l’organisation à but non lucratif METR. Le rôle d’Accenture est explicitement non exclusif, et le cabinet de conseil pourrait effectuer un travail similaire pour d’autres développeurs d’IA.

Mais l’expérience met aussi en évidence la lacune de gouvernance qu’elle est censée combler. Anthropic et Accenture prévoient chacun d’investir au moins 1 milliard de dollars sur cinq ans pour renforcer les capacités d’évaluation, mais Anthropic financera directement le travail d’Accenture car aucun mécanisme de financement mutualisé ou soutenu par les pouvoirs publics n’existe actuellement. L’entreprise indique que les normes restent elles aussi incertaines : il n’existe pas de cadre de règles convenu définissant l’accès que les évaluateurs devraient recevoir ni la manière dont ils devraient divulguer leurs conclusions.

Le projet pilote porte donc deux messages à la fois. Il constitue une concession notable en faveur d’une supervision plus approfondie dans un laboratoire d’IA de pointe ; c’est aussi un modèle d’audit dont l’indépendance n’a pas encore été garantie structurellement. Comme l’a formulé un rapport, Anthropic a choisi Accenture pour « surveiller en interne la sécurité de ses outils d’IA » après l’engagement de supervision de son PDG.²