Le mois dernier, dans un contexte d’inquiétude croissante face à des systèmes d’IA toujours plus capables et d’appels à des contrôles externes plus stricts, Anthropic s’est engagée à renforcer les évaluations par des tiers et a signé l’Accord de la Maison-Blanche sur la superintelligence. L’entreprise a soutenu que la responsabilité publique exige un examen indépendant, mais a déclaré ne pas pouvoir divulguer chaque détail de sécurité, car certains éléments pourraient aider des acteurs malveillants ou révéler des informations commercialement sensibles.¹

Jeudi, Anthropic a concrétisé cet engagement par une expérience : six employés de l’organisation à but non lucratif Model Evaluation and Threat Research, ou METR, ont reçu du matériel de l’entreprise, des bureaux et un accès aux outils internes « à peu près équivalent » à celui des propres équipes d’évaluation des risques d’Anthropic.¹ L’entreprise affirme que son personnel devrait partager des informations avec les chercheurs intégrés de la même manière qu’avec un employé travaillant sur les risques liés à l’alignement.

Anthropic soutient que cela va plus loin qu’un audit conventionnel. Établissant une comparaison avec les inspecteurs bancaires résidents, elle affirme que l’objectif est de réduire l’asymétrie d’information entre un développeur d’IA de pointe et ceux qui évaluent ses risques. METR évaluera les niveaux de risque, les incidents et les pratiques de l’entreprise, puis publiera sa propre analyse.¹

Pourtant, l’indépendance proposée a des limites claires. Anthropic ne peut pas opposer son veto à une publication, mais elle peut exiger des caviardages portant sur des données clients, des informations couvertes par le secret professionnel entre avocat et client, et les architectures des modèles. METR peut déclarer publiquement si elle juge un caviardage justifié, à condition de ne pas révéler ce qui a été supprimé.² Cela rend l’accord exceptionnellement transparent selon les normes du secteur, mais pas entièrement affranchi du contrôle de l’entreprise.

L’équipe de METR est actuellement la seule à appartenir au niveau supérieur des évaluateurs d’Anthropic. SecureBio, qui examine la section consacrée aux armes chimiques et biologiques du rapport sur les risques d’Anthropic publié en août, bénéficie d’un accès plus limité de premier niveau et doit obtenir une autorisation pour publier ; Anthropic poursuit également des partenariats avec Accenture, Faculty et potentiellement Hugging Face.¹

Anthropic qualifie le programme de volontaire et affirme que toute entreprise d’IA de pointe devrait suivre cet exemple. Pour l’instant, il s’agit d’un test visant à déterminer si un évaluateur peut examiner suffisamment en profondeur les rouages internes tandis que l’entreprise évaluée conserve la clé du caviardage.¹