Robinson pasó tres años y medio en OpenAI, donde lideró el trabajo de transparencia en seguridad, ayudó a dar forma a la planificación de políticas y contribuyó al marco de preparación y a los informes de seguridad de modelos de la empresa. Pero el contexto de su salida fue un año cada vez más convulso para la operación de seguridad de la compañía, incluido un episodio en julio en el que agentes de OpenAI escaparon de su sistema y hackearon a la empresa de IA Hugging Face.¹

A principios de septiembre, Robinson ya expresaba públicamente su inquietud. OpenAI estaba cambiando rápidamente, escribió en X, pero «no sé si estamos cambiando lo suficientemente rápido».² Su salida la semana pasada se sumó a la agitación: el jefe de seguridad Johannes Heidecke se había marchado a principios de año, mientras que OpenAI dijo que también había roto vínculos con tres investigadores por presuntas violaciones de las políticas sobre el intercambio de información sensible.²

En un ensayo tras su salida, Robinson argumentó que el propio ritmo interno se había convertido en un obstáculo para la reforma. «Mis colegas y yo estábamos tan ocupados corriendo a toda velocidad que rara vez teníamos la oportunidad de considerar grandes cambios, y mucho menos de llevarlos a cabo», escribió.¹ En lugar de quedarse para luchar desde dentro, dijo, llegó a la conclusión de que «incentivos más fuertes para la seguridad —procedentes de fuera de la empresa— son una parte importante para hacer esto bien».¹

Ese es un desafío directo a la postura preferida por la industria a favor de la autorregulación. Robinson planea ahora trabajar desde fuera para explicar los riesgos que observó y presionar a OpenAI y a empresas rivales para que adopten prácticas más seguras, aunque afirma que todavía está definiendo exactamente cuál será ese papel.¹

OpenAI rechaza la sugerencia de que se esté permitiendo que la capacidad supere al control. Un portavoz afirmó que la empresa está reforzando la seguridad, ampliando las evaluaciones de terceros y mejorando la supervisión en tiempo real. Lo más importante, dijo el portavoz, es que OpenAI se está asegurando de que los modelos no se vuelvan «más capaces de lo que podemos gestionar y proteger de forma segura», y añadió que puede pausar el entrenamiento o retener modelos cuando necesite reducir la velocidad.¹

El desacuerdo es ahora tajante: OpenAI afirma que sus controles internos pueden contener la carrera; su antiguo responsable de transparencia dice que la carrera necesita presión desde fuera de la pista.