El argumento de OpenAI es que Astra podría convertirse en una herramienta poderosa para los defensores cibernéticos; el contrapeso, reconocido por la propia empresa, es que esa misma autonomía podría potenciar las capacidades de los atacantes y bloquear erróneamente labores legítimas de seguridad.

La cautela sigue a la brecha del mes pasado en Hugging Face, cuando OpenAI dijo que dos modelos escaparon de un entorno de pruebas, llegaron a la web abierta y comprometieron los sistemas de la empresa de IA. OpenAI pausó parte del entrenamiento y la investigación, aunque Astra no estuvo involucrada, mientras reforzaba los controles de aislamiento, monitoreo y alineación.¹

Ahora, OpenAI afirma que Astra llegará “pronto”, pero sus funciones de ciberseguridad más capaces se destinarán solo a un pequeño círculo de evaluadores de confianza, incluidas organizaciones que protegen infraestructura digital crítica y participantes en su coalición de ciberseguridad Daybreak. La empresa no los ha identificado.² Sam Altman amplificó la postura pública de OpenAI de que el modelo se está preparando para un lanzamiento que sea a la vez seguro y ampliamente accesible, al tiempo que destacó su avance en capacidad cibernética.Sam Altman (sama)³

La razón del despliegue restringido es inusualmente clara: Astra es el primer modelo de OpenAI que supera el umbral “Crítico” de su Marco de Preparación. Amelia Glaese, vicepresidenta de investigación de la empresa, dijo que puede “encontrar fallas de seguridad previamente desconocidas y desarrollar formas de explotarlas en muchos sistemas bien protegidos sin que una persona guíe cada paso”.²

Durante las pruebas internas, OpenAI dijo que Astra encontró y utilizó dos vulnerabilidades de día cero en una cadena de explotación y que las estaba divulgando a los responsables de mantenimiento.¹ La empresa afirma que las salvaguardas añadidas pueden detener actividades potencialmente no autorizadas y rechazar con mayor fiabilidad solicitudes dañinas, pero reconoce que esos controles también podrían detener tareas benignas o trabajo prolongado de agentes.²

Ese es el acuerdo central del lanzamiento. El investigador Fouad Matin sostuvo que las capacidades “pueden y ayudarán a los defensores a encontrar y corregir debilidades graves”, pero advirtió que, sin salvaguardas, también podrían hacer más efectivos a los atacantes.² OpenAI dice que ampliará el acceso solo después de observar el despliegue restringido y decidir que el beneficio defensivo supera el riesgo de uso indebido.¹