OpenAI a nommé Paul Christiano, ancien employé et l’un des chercheurs en alignement les plus connus du domaine, aux conseils d’administration de l’entreprise et de sa fondation à but non lucratif. Cette décision rapproche un spécialiste du problème consistant à maintenir les puissants systèmes d’IA alignés sur les intérêts humains des mécanismes formels de supervision de l’organisation.¹

Christiano a travaillé chez OpenAI de 2017 à 2021, où il a dirigé la recherche sur l’alignement et contribué à l’apprentissage par renforcement à partir de retours humains, ou RLHF — la technique utilisée pour orienter les modèles à l’aide de préférences humaines. Après son départ, il a fondé l’Alignment Research Center et a été conseiller technique principal du Center for AI Standards and Innovation du gouvernement fédéral.¹

Ce nouveau rôle n’est pas simplement cérémoniel. Christiano siégera au comité de sûreté et de sécurité du conseil d’administration de l’OpenAI Foundation aux côtés de son président, Zico Kolter, un comité qui régit les pratiques de sécurité au sein de l’entreprise à but lucratif. Bret Taylor, président du conseil d’administration d’OpenAI, a déclaré que Christiano avait contribué à définir l’alignement de l’IA grâce à des travaux centrés sur « les questions les plus difficiles posées par des systèmes de plus en plus capables ». ¹

Christiano a présenté cette nomination comme une réponse à un défi technique grandissant. « Les capacités de l’IA ont progressé très rapidement au cours de l’année dernière et l’alignement demeure un problème technique difficile », a-t-il déclaré, ajoutant que le travail du comité devenait « plus important et plus difficile que jamais ». ¹

La direction d’OpenAI a publiquement salué ce retour. Le cofondateur Greg Brockman a écrit : « bienvenue @paulfchristiano ! », tout en mettant en avant le rôle de la fondation en matière de gouvernance de la sécurité.Greg Brockman (gdb)² Le directeur général Sam Altman a qualifié de précieuses les recherches de Christiano sur la sécurité et affirmé être « enthousiaste à l’idée de travailler à nouveau ensemble ». Sam Altman (sama)³

Cette nomination sera probablement aussi examinée de plus près de l’extérieur : un autre compte a décrit Christiano comme un « doomer de l’IA de premier plan », reflétant l’inquiétude du camp le plus alarmiste selon laquelle les gains en capacités devancent les garde-fous fiables.⁴ OpenAI, à l’inverse, signale que ces préoccupations ont leur place au sein de sa structure de gouvernance — et non à sa périphérie.