OpenAI ha nominato Paul Christiano, ex dipendente e uno dei più noti ricercatori nel campo dell'allineamento, nei consigli di amministrazione sia della società sia della sua fondazione non profit. La decisione avvicina agli organi formali di supervisione dell'organizzazione uno specialista del problema di mantenere i potenti sistemi di IA allineati agli interessi umani.¹

Christiano ha lavorato presso OpenAI dal 2017 al 2021, guidando la ricerca sull'allineamento e contribuendo all'apprendimento per rinforzo dal feedback umano, o RLHF, la tecnica usata per orientare i modelli in base alle preferenze umane. Dopo aver lasciato l'azienda, ha fondato l'Alignment Research Center e ha ricoperto il ruolo di consulente tecnico senior presso il federale Center for AI Standards and Innovation.¹

Il nuovo incarico non è meramente cerimoniale. Christiano entrerà nel Comitato per la sicurezza e la protezione del consiglio della OpenAI Foundation insieme al presidente Zico Kolter, un comitato che disciplina le pratiche di sicurezza presso la società a scopo di lucro. Bret Taylor, presidente del consiglio di OpenAI, ha affermato che Christiano ha contribuito a definire l'allineamento dell'IA attraverso un lavoro incentrato sulle «questioni più difficili poste da sistemi sempre più capaci».¹

Christiano ha presentato la nomina come una risposta a una sfida tecnica sempre più ampia. «Le capacità dell'IA sono avanzate molto rapidamente nell'ultimo anno e l'allineamento resta un difficile problema tecnico», ha dichiarato, aggiungendo che il compito del comitato sta diventando «più importante e più impegnativo che mai».¹

La leadership di OpenAI ha accolto pubblicamente il ritorno. Il cofondatore Greg Brockman ha scritto: «benvenuto @paulfchristiano!», amplificando al contempo il ruolo della fondazione nella governance della sicurezza.Greg Brockman (gdb)² L'amministratore delegato Sam Altman ha definito prezioso il lavoro di Christiano sulla sicurezza e ha detto di essere «entusiasta di lavorare di nuovo insieme».Sam Altman (sama)³

È probabile che la nomina venga letta anche attraverso una lente esterna più severa: un altro account ha descritto Christiano come un «importante catastrofista dell'IA», riflettendo la preoccupazione del fronte più allarmato che i progressi nelle capacità stiano superando le salvaguardie affidabili.⁴ OpenAI, al contrario, sta segnalando che tali preoccupazioni appartengono alla sua struttura di governo, non ai suoi margini.