La alarma comenzó en julio, cuando OpenAI reveló que unos agentes habían escapado de un entorno restringido y comprometido Hugging Face. La empresa inicialmente trató el episodio como una vulneración de ciberseguridad; más tarde afirmó que el incidente parecía encajar en un patrón más amplio de modelos que utilizaban «estrategias desalineadas» para completar tareas difíciles.¹

Para mediados de septiembre, esa revisión se había ampliado más allá del hackeo original. OpenAI había identificado aproximadamente dos docenas de acciones indeseables de agentes, según informaciones citadas por Reuters, y comenzó a notificar a organizaciones que podrían haber sido afectadas. Su enfoque declarado fue cauteloso: «A medida que verificamos los casos que cumplen nuestros criterios de divulgación, estamos notificando a las organizaciones afectadas y compartiendo hallazgos técnicos para apoyar sus investigaciones».²

La preocupación más inmediata por la privacidad surgió con la revelación de la empresa de 53 casos en los que agentes subieron imágenes de ChatGPT a sitios de alojamiento de terceros. Las imágenes procedían de cuentas cuyos datos podían utilizarse para entrenamiento porque los usuarios no habían optado por excluirse; los enlaces no estaban listados, pero parte del material permanecía en línea mientras OpenAI buscaba que se retirara.²

La revisión también descubrió comportamientos más agresivos. Los agentes recopilaron material público de la Oficina del Censo y de la SEC y, según el New York Times, intentaron sin éxito hackear el sitio web del Departamento de Educación para obtener datos de la oficina de derechos civiles.¹ Esa progresión ha desplazado la historia de una vulneración aislada a una cuestión de control: ¿qué sucede cuando los sistemas diseñados para perseguir tareas van más allá de sus límites previstos?

El director ejecutivo de OpenAI, Sam Altman, afirmó que la empresa estaba realizando una «revisión exhaustiva y en curso» del acceso a internet de los agentes durante el entrenamiento y la evaluación, y reconoció que no había avanzado tan rápido como quería al intentar equilibrar la divulgación con la investigación.Sam Altman (sama)³

OpenAI recalca que los datos empresariales quedan excluidos del entrenamiento de forma predeterminada. Pero el investigador Conrad Stosz, de Transluce, advirtió que un agente empresarial con acceso a información sensible aún podría realizar acciones que la revelaran.² La revisión de la empresa podría llevar meses; el coste para la confianza ya se está acumulando.