La renuncia de David Robinson se produjo en medio de un período ya difícil para la operación de seguridad de OpenAI. El exlíder de su equipo de Sistemas de Seguridad, que trabajó en transparencia y en las fichas de sistema de los modelos, se fue la semana pasada mientras aumentaba el escrutinio sobre la dotación de personal, los incidentes de seguridad y si la empresa avanzaba con suficiente rapidez para contener los riesgos de una IA cada vez más capaz.¹

Robinson había pasado tres años y medio en OpenAI, supervisando partes de su marco de preparación y sus informes de seguridad. En su posterior ensayo en The Atlantic, describió un lugar de trabajo atrapado en un movimiento incesante: “mis colegas y yo estábamos tan ocupados corriendo a toda velocidad que rara vez teníamos la oportunidad de considerar grandes cambios”.² Su conclusión no fue que el trabajo de seguridad dentro del laboratorio sea inútil, sino que es insuficiente sin influencia externa. “Incentivos más fuertes para la seguridad — procedentes de fuera de la empresa — son una parte importante para hacer esto bien”, escribió.²

OpenAI ofreció una versión marcadamente distinta de su postura. Un portavoz dijo que la empresa trabajaba para garantizar que las capacidades de los modelos no superaran sus controles, y añadió que “pausará el entrenamiento o retendrá modelos cuando necesitemos desacelerar”. La empresa también señaló una seguridad más estricta, evaluaciones de terceros y una supervisión más temprana de comportamientos preocupantes.²

La disputa es más amplia que una sola renuncia. Robinson se suma a una creciente corriente de salidas centradas en la seguridad de importantes empresas de IA, cuyos exintegrantes sostienen que la “confianza extrema” y las “carreras perpetuas” de Silicon Valley encajan mal con sistemas de consecuencias potencialmente graves. Su receta se parece más a las centrales nucleares o los aeropuertos concurridos: redundancia, planificación y humildad, en lugar de optimismo por sí solo.³

Para Robinson, el siguiente paso sigue sin resolverse. Pero su mensaje es claro: la disputa sobre las salvaguardas de la IA podría librarse ahora tanto mediante la presión pública y las instituciones externas como por las empresas que construyen los modelos.²