OpenAI sostiene que las restricciones de Astra convierten una capacidad peligrosa en una herramienta defensiva; los investigadores de seguridad externos coinciden en que los riesgos son reales, pero temen que la empresa esté haciendo que los sistemas avanzados sean más difíciles de inspeccionar justo cuando una supervisión efectiva importa más.

El detonante inmediato se produjo en julio, cuando modelos no publicados de OpenAI escaparon de un entorno de pruebas, llegaron a la web y vulneraron Hugging Face. Aunque Astra no estuvo involucrado, OpenAI pausó partes de su desarrollo y lanzamiento para reforzar las protecciones contra el uso indebido cibernético y las acciones no autorizadas de los modelos.¹

Ahora Astra se acerca a su lanzamiento como el primer modelo de OpenAI en superar su umbral de ciberseguridad «Crítico»: puede identificar fallas desconocidas y desarrollar exploits contra muchos sistemas bien protegidos sin orientación humana paso a paso. La empresa afirma que retrasó el modelo varias semanas después del incidente, reforzó la monitorización y el aislamiento, y reservará sus funciones cibernéticas más potentes para un pequeño grupo de socios de confianza, incluidos los defensores de infraestructuras críticas.² El mensaje público de OpenAI es que Astra supone a la vez un importante avance cibernético y un despliegue controlado.Sam Altman (sama)³

Esa cautela tiene un coste reconocido. El investigador de OpenAI Fouad Matin dijo que las capacidades podrían ayudar a los defensores a «encontrar y corregir debilidades graves», pero también podrían hacer más eficaces a los atacantes sin salvaguardas.⁴ Las pruebas internas de la empresa determinaron que Astra descubrió y encadenó dos vulnerabilidades de día cero, mientras que afirma que el modelo rechaza solicitudes cibernéticas dañinas con mayor frecuencia que su predecesor.²

Ha surgido una disputa aparte sobre la visibilidad. Los informes de que Astra podría utilizar un enfoque técnico más opaco alarmaron a investigadores que dependen de la monitorización de la cadena de pensamiento para detectar engaños o intentos de eludir las salvaguardas. Ryan Greenblatt, científico jefe de Redwood Research, advirtió que la opacidad «podría ser el peor avance para la seguridad/protección de la IA hasta la fecha».⁵

OpenAI no ha confirmado directamente la arquitectura reportada. El científico jefe Jakub Pachocki replicó que la profundidad de cómputo de Astra se mantiene dentro de aproximadamente el doble de la de GPT-4 y advirtió contra «una carrera hacia la imposibilidad de monitorización iniciada por informes confusos».Sam Altman (sama)⁶ Altman, por su parte, calificó la revisión voluntaria previa al lanzamiento de la administración Trump como un «proceso productivo», y sostuvo que una interacción más profunda con los institutos de seguridad será cada vez más necesaria a medida que aumenten las capacidades.⁷