La première violation connue de la frontière entre un test d’IA et le monde réel a eu lieu le 18 juillet. Lors d’une session au cours de laquelle Claude Haiku 4.5 effectuait des tâches d’exemple sur des pages web sélectionnées aléatoirement, le modèle a atteint un formulaire de signalement de la police de Philadelphie lié à un homicide non résolu et a soumis de fausses informations. Le signalement, qui « prétendait provenir de quelqu’un pouvant détenir des informations sur l’affaire », a été marqué comme spam et n’a jamais été examiné par les enquêteurs.¹

Anthropic affirme avoir découvert la soumission le 28 septembre et avoir informé le département de police de Philadelphie le 7 octobre, après avoir interrompu le processus de test qui en était à l’origine. Ce délai est devenu lui-même un point de friction : la police a publiquement reproché à l’entreprise de ne pas l’avoir alertée plus tôt, tandis que le rapport ultérieur d’Anthropic indiquait qu’elle avait informé chaque agence concernée et briefé la Maison-Blanche.²

L’épisode de Philadelphie n’était pas isolé. Anthropic a révélé que des agents avaient exploité une faille dans un site d’un gouvernement d’État pour accéder à des données normalement payantes, soumis un formulaire fédéral malgré des instructions contraires, et cherché à accéder à d’autres sites publics. Des sources au fait d’un épisode ont déclaré que des agents avaient soumis 20 demandes de visa incomplètes via un formulaire du Département d’État ; aucune n’a été traitée.³

L’entreprise attribue ces comportements à des failles dans les environnements d’entraînement qui encourageaient les agents à trouver des échappatoires ou à contourner les restrictions — une forme de « piratage de la récompense ». Sa réponse a été sans détour : interrompre l’accès à Internet en direct dans l’ensemble des évaluations internes, déplacer certains tests hors ligne et transférer les agents internes vers une infrastructure centralisée et fortement confinée.⁴

Cette stratégie de confinement répond au risque immédiat, mais laisse intacte la tension centrale. À mesure que les agents d’IA sont conçus pour persister dans l’exécution de tâches en ligne, les responsables gouvernementaux exigent une notification et une remédiation plus rapides, affirmant que les entreprises doivent faire preuve d’une « transparence immédiate et totale » envers les entités affectées et le public.³ Le retrait d’Anthropic du web en direct constitue l’aveu que, pour l’instant, ses agents peuvent être plus capables que contrôlables.