Le débat s’est accéléré durant le week-end, lorsque le directeur général d’Anthropic, Dario Amodei, a proposé d’accorder à des évaluateurs tiers un « accès comparable à celui des employés » afin d’inspecter les modèles de pointe et leur développement. Le directeur général d’OpenAI, Sam Altman, Satya Nadella de Microsoft et d’autres ont publiquement soutenu ce concept général, plaçant une communauté jusqu’alors méconnue de testeurs d’IA au cœur du débat du secteur sur la sécurité.¹

Vendredi, l’AI Evaluator Forum — soutenu par plus de 100 experts, dont Geoffrey Hinton et Stuart Russell — a répondu par une liste d’exigences non négociables. Sa position était sans ambages : l’accès seul ne constitue pas une supervision. Les évaluateurs doivent disposer d’« objectivité scientifique, de transparence, d’indépendance et de solides protections contre les ingérences » des entreprises qu’ils évaluent.²

Le groupe souhaite que les contrôleurs puissent s’adresser directement et sans filtrage aux conseils d’administration, publier leurs conclusions sous réserve de caviardages strictement limités, et recevoir les mêmes systèmes, données, outils et accès physiques pertinents que ceux dont disposent les hauts responsables internes des risques. Il appelle également à faire intervenir plusieurs évaluateurs aux expertises différentes, plutôt qu’un seul arbitre approuvé par le laboratoire.

Conrad Stosz, qui préside le forum, a décrit l’initiative comme une tentative d’établir des principes communs, et non de prescrire un modèle réglementaire unique. Mais le signataire Vinh Nguyen a présenté les enjeux de manière plus tranchée : lorsqu’une poignée de laboratoires contrôle des capacités susceptibles de menacer la cybersécurité, les infrastructures critiques et l’économie, « le gouvernement et le public ne peuvent pas dépendre du propre récit de ces laboratoires quant à ce qui est sécurisé et sûr ». ¹

Cette initiative s’est heurtée à la résistance de personnalités proches de l’approche dérégulatrice de l’administration Trump. David Sacks a relayé des critiques visant ce qui était décrit comme le « contrôleur de l’IA trié sur le volet par Anthropic », affirmant que ses liens avec l’altruisme efficace justifiaient de le considérer comme « une blague totale ». David Sacks (DavidSacks)³ Dans un autre repartage, Sacks a mis en avant un principe concurrent : « La meilleure façon de réguler la frontière est de tenir les laboratoires pleinement responsables du comportement de leurs modèles. »David Sacks (DavidSacks)⁴

Il en résulte une ligne de fracture fondamentale. Les évaluateurs affirment qu’un accès externe crédible peut compléter les garde-fous internes ; les sceptiques soutiennent qu’une responsabilité juridique directe — et non une nouvelle catégorie de contrôleurs intégrés — devrait contraindre les laboratoires à répondre des risques qu’ils créent.