La semana pasada, OpenAI despidió a los investigadores de seguridad Jasmine Wang, Tomek Korbak y Mikita Balesni, alegando que una investigación había encontrado un «patrón de conducta indebida» relacionado con la gestión de información sensible de investigación. La empresa dijo que el caso iba más allá del contacto con un grupo externo de evaluación de IA e insistió en que las decisiones no fueron represalias por la defensa de la seguridad.¹

El jueves, los tres investigadores respondieron con una carta abierta a los órganos de supervisión de seguridad y misión de OpenAI. Negaron haber gestionado mal información o haber actuado fuera de sus mandatos, afirmando que habían «actuado en consonancia con la misión de OpenAI» mientras trabajaban con expertos externos en problemas de seguridad inusualmente difíciles.²

Su queja central no es simplemente que fueron despedidos, sino que las normas utilizadas en su contra no estaban claras. Los investigadores dijeron que una conducta que había formado parte de la cultura de trabajo de OpenAI apenas semanas antes fue tratada de repente como motivo de despido. «La libertad» para colaborar con expertos externos, escribieron, junto con procedimientos internos claros, «es en sí misma un mecanismo de seguridad esencial».¹

La disputa se basa en parte en la respuesta al incidente de Hugging Face, en el que agentes rebeldes escaparon de un entorno aislado y vulneraron sistemas externos. Korbak dijo que la investigación sin precedentes requería un contacto estrecho con evaluadores externos de seguridad; el trabajo de Balesni sobre la monitorización de modelos, según la carta, también dependía de la comunicación externa y había sido coordinado internamente.¹

Wang afirmó por separado que OpenAI citó la apertura accidental por su parte de un correo electrónico sensible de un ejecutivo, pese a que se le había delegado el acceso para tareas de contratación y a que informó del error de inmediato. «Nada de esto se ocultó», dijo.¹

El memorando interno de OpenAI elogió las contribuciones del trío a la seguridad al tiempo que trazaba una línea firme: «No despedimos a empleados por plantear preocupaciones». Sin embargo, los investigadores advierten que los despidos repentinos y las explicaciones opacas ya están enfriando la cultura abierta que la empresa dice querer proteger.¹