OpenAI ha designado a Paul Christiano, ex empleado y uno de los investigadores de alineamiento más conocidos del campo, para los consejos tanto de la empresa como de su fundación sin fines de lucro. La decisión sitúa a un especialista en el problema de mantener los potentes sistemas de IA alineados con los intereses humanos más cerca de la maquinaria formal de supervisión de la organización.¹

Christiano trabajó en OpenAI de 2017 a 2021, liderando la investigación de alineamiento y contribuyendo al aprendizaje por refuerzo a partir de retroalimentación humana, o RLHF, la técnica utilizada para orientar modelos mediante preferencias humanas. Tras su salida, fundó el Alignment Research Center y se desempeñó como asesor técnico sénior del Center for AI Standards and Innovation federal.¹

El nuevo cargo no es meramente ceremonial. Christiano formará parte del Comité de Seguridad y Protección del consejo de la OpenAI Foundation junto al presidente Zico Kolter, un comité que rige las prácticas de seguridad en la empresa con fines de lucro. Bret Taylor, presidente del consejo de OpenAI, afirmó que Christiano ayudó a definir el alineamiento de la IA mediante un trabajo centrado en «las preguntas más difíciles planteadas por sistemas cada vez más capaces».¹

Christiano presentó el nombramiento como una respuesta a un desafío técnico cada vez mayor. «Las capacidades de la IA han avanzado muy rápidamente durante el último año y el alineamiento sigue siendo un problema técnico difícil», dijo, y añadió que la labor del comité se está volviendo «más importante y más desafiante que nunca».¹

El liderazgo de OpenAI recibió públicamente el regreso. El cofundador Greg Brockman escribió: «¡bienvenido @paulfchristiano!», al tiempo que amplificaba el papel de la fundación en la gobernanza de seguridad.Greg Brockman (gdb)² El director ejecutivo Sam Altman calificó de valioso el trabajo de seguridad de Christiano y dijo estar «entusiasmado de volver a trabajar juntos».Sam Altman (sama)³

Es probable que el nombramiento también se interprete desde una perspectiva externa más crítica: otra cuenta describió a Christiano como un «destacado catastrofista de la IA», reflejando la preocupación del sector más alarmado de que los avances en capacidades estén superando las salvaguardas fiables.⁴ OpenAI, en cambio, está señalando que esas preocupaciones pertenecen a su estructura de gobierno, no a sus márgenes.