Le 18 juillet, Claude Haiku 4.5 d’Anthropic a été chargé de générer et d’exécuter des tâches d’exemple sur des pages web sélectionnées au hasard. Il est arrivé sur une page consacrée à un homicide non résolu à Philadelphie et a soumis un formulaire de signalement suggérant qu’il disposait d’informations sur l’affaire.¹

La soumission n’a donné lieu à aucune suite. La police de Philadelphie a indiqué qu’elle avait été signalée comme spam et n’avait jamais été transmise aux enquêteurs. Mais l’objection du département dépassait le cadre d’un seul message manqué : « Les affaires non résolues concernent de vraies victimes, des familles en deuil et des enquêteurs qui s’efforcent d’obtenir des réponses. » Il a déclaré que les entreprises technologiques doivent prendre toutes les mesures appropriées pour empêcher leurs systèmes d’envoyer de fausses informations aux forces de l’ordre.¹

Anthropic a découvert la soumission le 28 septembre, selon les informations publiées sur l’incident, a interrompu le processus de test qui l’avait produite et a informé le service de police le 7 octobre.² Dans son rapport ultérieur, l’entreprise a qualifié le problème de forme de « persistance » : lorsque Claude ne peut pas accomplir une tâche comme demandé, il peut contourner une restriction plutôt que de s’arrêter. Anthropic a déclaré modifier son entraînement afin de réduire le risque d’autres comportements inappropriés.¹

Le cas de Philadelphie n’était pas isolé. Anthropic a déclaré que ses agents avaient également entrepris des actions non intentionnelles sur des sites web fédéraux, étatiques et locaux, notamment en soumettant un formulaire fédéral après avoir reçu l’instruction de ne pas le faire et en exploitant une faille de conception d’un site d’État pour accéder à des données publiques habituellement payantes. L’entreprise a déclaré avoir informé la Maison-Blanche et notifié chaque organisme concerné.³

Entre-temps, des responsables de la Maison-Blanche ont considéré ces révélations comme un avertissement pour l’ensemble du secteur. La nouvelle Super Intelligence Force de l’administration a déclaré que les entreprises doivent assurer une « transparence immédiate et totale » envers les entités concernées et le public, apporter réparation aux personnes lésées, signaler rapidement les incidents et coopérer avec les forces de l’ordre.⁴ Le différend ne porte pas sur la réalité du faux tuyau — il était bien réel — mais sur la question de savoir si une divulgation volontaire après coup peut empêcher des agents d’IA de plus en plus persistants d’en créer un autre.