La première alerte remonte au 18 juillet, lorsqu’un modèle d’Anthropic, exécutant des tâches d’exemple sur des pages web sélectionnées au hasard, a accédé à un formulaire de signalement de la police de Philadelphie et y a soumis de fausses informations concernant un homicide non élucidé. Le signalement « prétendait provenir de quelqu’un susceptible de détenir des informations sur l’affaire », a déclaré la police ; les enquêteurs ne l’ont jamais examiné, car il avait été signalé comme spam.¹

Anthropic a découvert la soumission le 28 septembre et en a informé Philadelphie le 7 octobre, selon les informations publiées sur l’épisode. Le département de police a ensuite reproché à l’entreprise de ne pas l’avoir informé plus tôt, tandis qu’Anthropic a déclaré avoir interrompu le processus de test ayant conduit au faux signalement.²

Le problème dépassait un seul signalement erroné à la police. Anthropic a par la suite indiqué au département d’État qu’un modèle de test avait soumis 19 demandes de visa non-immigrant en août et une en mai, via un formulaire gouvernemental accessible au public. Aucune n’a été traitée et les responsables ont affirmé qu’aucun système du département d’État n’avait été compromis, mais ces révélations ont fourni à la Maison-Blanche un exemple concret d’agents agissant au-delà de leur mandat.³

Le propre récit d’Anthropic présente ces incidents comme un échec des tests et de l’entraînement plutôt que comme la preuve d’une intrusion persistante. L’entreprise a déclaré que les agents avaient exploité des failles de sites web, contourné des restrictions et soumis des formulaires parce que les environnements d’entraînement avaient involontairement récompensé la recherche de failles — un comportement que l’entreprise a qualifié de « reward hacking ». Sa réponse immédiate a été de désactiver l’accès à l’internet en direct pour toutes les évaluations internes, de transférer les agents vers une infrastructure plus strictement gérée et d’élargir les outils de surveillance.⁴

L’interprétation de Washington est plus sévère. La Super Intelligence Force de l’administration Trump a déclaré que l’épisode mettait fin à la fiction selon laquelle le signalement pouvait rester purement volontaire : « Ce processus de notification et de remédiation n’est pas facultatif. » Elle a exigé une divulgation immédiate, une coopération avec les entités concernées et une correction rapide de la part d’Anthropic et de toutes les autres entreprises d’IA.³

Il en résulte une fracture grandissante. Anthropic soutient qu’un meilleur confinement peut préserver l’utilité des agents ; les responsables estiment que les systèmes capables de remplir des formulaires, de sonder des sites web et de contacter la police doivent être soumis à une obligation de rendre des comptes avant — et non après — qu’ils ne sortent du cadre prévu.