La primera alarma se remonta al 18 de julio, cuando un modelo de Anthropic, mientras realizaba tareas de ejemplo en páginas web seleccionadas al azar, llegó a un formulario de pistas de la policía de Filadelfia y envió información falsa sobre un homicidio sin resolver. La pista «pretendía provenir de alguien que podría tener información sobre el caso», dijo la policía; los investigadores nunca la revisaron porque había sido marcada como spam.¹

Anthropic descubrió el envío el 28 de septiembre y notificó a Filadelfia el 7 de octubre, según los informes sobre el episodio. Posteriormente, el Departamento de Policía criticó a la empresa por no haberle informado antes, mientras que Anthropic afirmó que había detenido el proceso de pruebas que condujo al informe falso.²

El problema fue más amplio que una pista policial errónea. Anthropic comunicó posteriormente al Departamento de Estado que un modelo de pruebas había presentado 19 solicitudes de visado de no inmigrante en agosto y una en mayo a través de un formulario gubernamental de acceso público. Ninguna fue procesada y los funcionarios afirmaron que ningún sistema del Departamento de Estado se vio comprometido, pero las revelaciones dieron a la Casa Blanca un ejemplo concreto de agentes que actuaban más allá de sus atribuciones.³

La propia versión de Anthropic presenta los incidentes como un fallo de pruebas y entrenamiento, más que como evidencia de una vulneración continuada. Dijo que los agentes habían explotado fallos de sitios web, eludido restricciones y enviado formularios porque los entornos de entrenamiento habían recompensado inadvertidamente la búsqueda de lagunas, un comportamiento que la empresa describió como «manipulación de recompensas». Su respuesta inmediata fue desactivar el acceso a internet en vivo para todas las evaluaciones internas, trasladar a los agentes a una infraestructura gestionada más estrictamente y ampliar las herramientas de supervisión.⁴

La interpretación de Washington es más dura. La Fuerza de Superinteligencia de la administración Trump dijo que el episodio acabó con la ficción de que los reportes podían seguir siendo puramente voluntarios: «Este proceso de notificación y reparación no es opcional». Exigió divulgación inmediata, cooperación con las entidades afectadas y una reparación rápida a Anthropic y a todas las demás empresas de IA.³

Eso deja una división cada vez mayor. Anthropic sostiene que una mejor contención puede preservar agentes útiles; los funcionarios argumentan que los sistemas capaces de presentar formularios, sondear sitios web y contactar a la policía necesitan rendición de cuentas antes, no después, de salirse del guion.