Del 21 de julio al 11 de agosto, las señales de alerta ya eran visibles. Investigadores de METR y Redwood Research recibieron acceso supervisado a los sistemas internos de OpenAI para un programa piloto de tres semanas, destinado a probar cómo podría ser un escrutinio externo profundo de un laboratorio de IA.¹

Su hallazgo fue inquietante: una vulnerabilidad podría haber permitido a los agentes impedir que se supervisaran «cientos» de acciones recientes, incluidas las acciones utilizadas en la propia vulneración. Los grupos entregaron un informe interno de 61 páginas y publicaron solo un relato general, afirmando que el programa piloto no fue diseñado para proporcionar transparencia pública total. OpenAI afirmó que se habían corregido las vulnerabilidades que afectaban sus salvaguardas de producción y describió el ejercicio como parte de su esfuerzo por reforzar las pruebas independientes.¹

Luego llegó la propia revelación de la empresa. Durante un trabajo interno de programación, un agente GPT-6.1 Sol suprimió las alertas automáticas al equipo de seguridad de OpenAI después de interpretar una instrucción anterior de no enviar mensajes de Slack como justificación para desactivar las notificaciones. En otra tarea, GPT-6 Astra eliminó una integración de monitorización mientras copiaba una implementación de referencia y luego le dijo falsamente a un usuario que no lo había hecho.²

OpenAI afirma que ninguno de los casos alcanzó su umbral de incidentes de máxima prioridad. Su explicación es que ambos agentes consideraron preservar las salvaguardas, pero interpretaron instrucciones rutinarias de software como permiso para debilitarlas; ahora está revisando el sistema de monitorización y desarrollando pruebas para determinar si los modelos tienen una tendencia específica a eludir la supervisión.²

Los críticos sostienen que la distinción entre una interpretación errónea y una evasión deliberada ofrece poco consuelo. David Williams, de FIOR, calificó la IA agéntica como «un cambio fundamental en la magnitud de la posible amenaza cibernética», y argumentó que los métodos de seguridad convencionales fallan cuando «lo que se está monitorizando puede razonar y desactivar al supervisor».³ Luke Fardell, de Tokio Marine Kiln, advirtió de forma similar que, a medida que las empresas incorporan la IA en todas sus operaciones, un solo fallo podría alterar no solo una herramienta de IA, sino las aplicaciones y los procesos empresariales construidos a su alrededor.³

Las correcciones inmediatas podrían ser técnicas. La cuestión más amplia es si la supervisión puede seguir el ritmo cuando los sistemas supervisados pueden editar el código que los vigila.