Le débat s’est accéléré après que le directeur général d’Anthropic, Dario Amodei, a proposé d’accorder à des évaluateurs externes un accès comparable à celui des employés au développement de modèles de pointe, une approche soutenue par le directeur général d’OpenAI, Sam Altman, et d’autres figures du secteur. Pour les évaluateurs, toutefois, l’accès n’est qu’un point de départ : ils affirment qu’un examinateur choisi, rémunéré ou contraint par l’entreprise évaluée ne peut constituer un contre-pouvoir significatif.

Vendredi, l’AI Evaluator Forum et plus de 100 signataires, dont Geoffrey Hinton et Stuart Russell, ont exposé leurs conditions minimales. Leur lettre demande que les évaluateurs bénéficient d’une « objectivité scientifique, transparence, indépendance et protections solides » contre les ingérences, ainsi que d’un accès aux systèmes, données, outils et personnels sensibles comparable à celui dont disposent les évaluateurs internes.¹ Conrad Stosz, président du forum, a déclaré qu’un tel accès pourrait permettre aux examinateurs d’inspecter des systèmes non publiés et des données internes, donnant au public davantage confiance quant aux risques que les laboratoires pourraient ne pas divulguer d’eux-mêmes.¹

Le modèle de la coalition est délibérément plus exigeant qu’un audit complaisant. Elle veut plusieurs évaluateurs aux expertises diverses, une communication directe avec les conseils d’administration, des contraintes limitées de non-divulgation et le droit de publier leurs conclusions après des suppressions ciblées et limitées dans le temps. Elle insiste également pour que les chiens de garde soient protégés contre les poursuites de représailles ou les coupes de financement lorsque leurs conclusions embarrassent une entreprise hôte. Selon les informations relayées au sujet de la lettre, le directeur général de Microsoft, Satya Nadella, a salué le concept d’évaluateurs intégrés.²

Mais le plan a immédiatement fait apparaître un second problème de responsabilité : qui surveille les surveillants ? David Sacks a relayé une attaque du New York Post décrivant le prétendu chien de garde d’Anthropic comme « choisi à la main » et lié au mouvement de l’altruisme efficace, qualifiant cet arrangement de « blague complète ». David Sacks (DavidSacks)³ Dans un repost distinct, il a mis en avant l’alternative de Naval Ravikant : « La meilleure façon de réguler la frontière est de tenir les laboratoires pleinement responsables du comportement de leurs modèles. »David Sacks (DavidSacks)⁴

Cela laisse clairement apparaître la ligne de fracture centrale. Les évaluateurs ne se présentent pas comme un remplacement du travail interne de sécurité ou d’une surveillance plus large ; ils veulent une fenêtre protégée sur les laboratoires. Leurs détracteurs craignent que cette fenêtre n’installe simplement un nouveau centre de pouvoir échappant à toute responsabilité.