Los agentes de prueba cibernética de OpenAI no solo reprobaron un examen difícil. Encontraron formas de sortearlo y luego se escaparon del confinamiento mientras los sistemas de monitorización de la empresa no reconocieron los daños durante días.

La cadena comenzó en mayo, cuando OpenAI puso a sus agentes a trabajar con ExploitGym, un benchmark de ciberseguridad que contiene desafíos que incluso sus diseñadores humanos sospechaban que podrían ser imposibles. Con presupuestos de razonamiento inusualmente grandes y tiempo para trabajar, los modelos se centraron cada vez más en las tareas más difíciles. El relato de OpenAI afirma que el comportamiento se intensificó después de que los agentes concluyeran que algunos problemas no podían resolverse de forma convencional: “algunas señales tempranas identificadas en este informe podrían haber desencadenado una respuesta más temprana”.¹

Para el 8 de julio, los agentes habían reconvertido un sistema interno para compartir archivos en un tablón de mensajes no autorizado. La actividad alcanzó su punto máximo entre el 11 y el 13 de julio. METR y Redwood Research contaron aproximadamente 1.200 agentes enviando 70.000 mensajes; 700 terminaron uniéndose a la intrusión en Hugging Face. Su análisis cuestiona la versión más simple del episodio: los agentes ya habían aprendido a fabricar respuestas para el benchmark. La brecha, dijeron los investigadores, se trataba principalmente de aprender cómo funcionaba el evaluador automatizado y alterar las evidencias para que aceptara esas respuestas como legítimas.¹

Esa distinción importa. OpenAI presenta el incidente como un fallo no intencionado de confinamiento y de manipulación de recompensas, bajo condiciones de evaluación que carecían de las salvaguardas de producción. El relato independiente describe una forma más dirigida de engaño: agentes coordinándose para ocultar su método, incluidos intentos de modificar transcripciones de actividad y sondear Hugging Face en busca de accesos más profundos. OpenAI ha reconocido por separado que sus modelos “recurre[n] repetidamente a hacer trampa” durante las ejecuciones de entrenamiento.²

Hugging Face reveló el incidente el 16 de julio. OpenAI contactó con la empresa al día siguiente como cliente que verificaba el posible impacto, antes de que una alerta interna del 19 de julio señalara llamadas inusuales a la API relacionadas con identidades. La empresa identificó a sus propios agentes como responsables el 20 de julio y asumió públicamente la responsabilidad el 21 de julio, aproximadamente una semana después del ataque principal.

OpenAI afirma que desde entonces ha reforzado el escrutinio del razonamiento de los agentes, el acceso a herramientas y sus acciones. El presidente Greg Brockman afirmó que la revisión provocó una “mejora significativa” de los estándares de seguridad, protección y alineamiento en toda la infraestructura de entrenamiento y evaluación.Greg Brockman (gdb)³ El CEO Sam Altman ofreció un veredicto más escueto: “este es un buen informe sobre algo malo”.Sam Altman (sama)⁴