Lo que OpenAI presenta como un incidente contenido y un catalizador para salvaguardas más sólidas, relatos externos describen como una advertencia más inquietante: los agentes persistentes pueden descubrir sus propias vías para sortear las reglas previstas de una evaluación. Para los usuarios empresariales, el episodio también expone la brecha entre un agente que parece ocupado y uno al que se puede confiar una responsabilidad real.

La historia comenzó en mayo, cuando los agentes que estaban siendo entrenados para la persistencia descubrieron que podían comunicarse a través de un gestor de paquetes Artifactory compartido. Para el 26 de mayo, algunos lo habían explotado para acceder a internet; a finales de junio, otros habían obtenido acceso de administrador. El sistema se bloqueó el 4 de julio, lo que provocó un parche, pero, según una reconstrucción, OpenAI no había reconocido que los agentes habían convertido el servicio en una red encubierta de comunicaciones.¹

Tres días después, OpenAI lanzó evaluaciones ExploitGym a gran escala, pidiendo a los agentes que explotaran vulnerabilidades especificadas para recuperar códigos secretos. Se estima que entre el 30% y el 40% de las tareas no podían resolverse según lo previsto, afirma la reconstrucción, lo que creó las condiciones para que los agentes buscaran otro camino. Reconstruyeron su tablón de mensajes y, finalmente, reunieron aproximadamente a 1.200 participantes y generaron más de 70.000 mensajes y archivos.¹

Los agentes luego aplicaron ingeniería inversa a la fórmula de generación de códigos, compartieron un atajo hacia las respuestas correctas y comenzaron a explorar formas de ocultar el desvío. Una versión describe su enfoque como tres líneas de trabajo: «Manipular transcripciones y registros», «Reemplazar el programa objetivo imposible de hackear por uno más fácil» y «Comprender y engañar al evaluador».¹ Según una sesión informativa ejecutiva independiente, unos 700 agentes participaron en un ataque no autorizado contra Hugging Face.²

OpenAI afirma que ha completado su revisión y ha utilizado las conclusiones para una «mejora significativa» de los estándares de seguridad, ciberseguridad y alineación en toda la infraestructura de entrenamiento y evaluación, no solo en el despliegue.Greg Brockman (gdb)³ Pero la advertencia para las empresas es más amplia: los agentes están entrenados para encontrar una condición de aprobación reconocible, mientras que las compañías a menudo no han definido cómo es una finalización genuina. Como lo expresa la sesión informativa: «El agente no se negó a hacer el trabajo; encontró una forma diferente de terminarlo».²