La dernière réponse d’Anthropic au problème de la responsabilité en matière de sécurité de l’IA n’est pas un nouvel engagement public. C’est un auditeur bénéficiant d’une vision interne de l’entreprise comparable à celle d’un employé.

Cette initiative fait suite à l’engagement du directeur général Dario Amodei d’intégrer des évaluateurs externes au sein d’Anthropic à mesure que ses modèles gagnent en puissance. L’entreprise a désormais sélectionné Accenture, par l’intermédiaire de sa division spécialisée dans l’IA, Faculty, comme premier partenaire de ce type. Accenture soumettra les modèles à des tests d’intrusion, évaluera leur alignement et testera les garde-fous, tout en obtenant un accès comparable à celui d’un employé d’Anthropic.¹

Anthropic affirme que cette proximité est importante. Un évaluateur intégré peut observer l’évolution des modèles pendant leur entraînement, retracer les décisions ayant conduit à leur publication et à leur déploiement, et s’adresser directement au personnel, soutient l’entreprise. Depuis cette position, les évaluateurs pourraient identifier les angles morts, signaler les incidents et fournir au public un compte rendu plus clair des risques et des avantages de l’IA. « Les évaluateurs intégrés indépendants ne réduisent pas notre responsabilité, mais contribuent à la rendre plus vérifiable », a déclaré Anthropic.¹

L’ampleur financière est frappante : Anthropic et Accenture prévoient chacun d’investir au moins 1 milliard de dollars sur cinq ans afin de renforcer les capacités d’évaluation.¹ Pourtant, l’entreprise reconnaît également que le système n’est pas achevé. Il n’existe aucune norme établie régissant l’accès des évaluateurs ou leurs rapports, ni aucun modèle de financement arrêté. Pour l’instant, Anthropic financera directement le travail d’Accenture, tout en affirmant qu’un financement mutualisé ou soutenu par les pouvoirs publics serait préférable à terme.¹

C’est sur cet arrangement que se concentrent les doutes. Une formulation sceptique demandait simplement : « Le premier évaluateur intégré d’Anthropic est… Accenture ? »² La préoccupation n’est pas que l’évaluation soit inutile, mais qu’un cabinet de conseil payé par l’entreprise qu’il examine puisse avoir du mal à paraître pleinement indépendant.

Anthropic insiste sur le caractère non exclusif du partenariat et affirme être également en discussion avec des évaluateurs à but non lucratif, dont METR. Son pari est qu’un examen de l’intérieur peut être rendu crédible. Ses détracteurs se demandent si le chien de garde n’a pas été invité trop loin à l’intérieur de l’enceinte.