OpenAI hat Paul Christiano, einen ehemaligen Mitarbeiter und einen der bekanntesten Alignment-Forscher des Fachgebiets, in die Vorstände sowohl des Unternehmens als auch seiner gemeinnützigen Stiftung berufen. Die Entscheidung bringt einen Spezialisten für das Problem, leistungsstarke KI-Systeme mit menschlichen Interessen in Einklang zu halten, näher an die formellen Kontrollstrukturen der Organisation.¹

Christiano arbeitete von 2017 bis 2021 bei OpenAI, leitete die Alignment-Forschung und wirkte an Reinforcement Learning from Human Feedback, kurz RLHF, mit – der Methode, mit der Modelle anhand menschlicher Präferenzen gesteuert werden. Nach seinem Weggang gründete er das Alignment Research Center und war als leitender technischer Berater für das bundesstaatliche Center for AI Standards and Innovation tätig.¹

Die neue Rolle ist nicht bloß zeremoniell. Christiano wird gemeinsam mit dem Vorsitzenden Zico Kolter im Sicherheits- und Sicherheitsausschuss des Vorstands der OpenAI Foundation sitzen, einem Ausschuss, der die Sicherheitspraktiken des gewinnorientierten Unternehmens regelt. Bret Taylor, der Vorsitzende des OpenAI-Vorstands, sagte, Christiano habe das KI-Alignment durch Arbeiten geprägt, die sich auf „die schwierigsten Fragen konzentrieren, die zunehmend leistungsfähige Systeme aufwerfen.“¹

Christiano bezeichnete die Ernennung als Antwort auf eine wachsende technische Herausforderung. „Die KI-Fähigkeiten haben sich im vergangenen Jahr sehr schnell weiterentwickelt, und Alignment bleibt ein schwieriges technisches Problem“, sagte er und fügte hinzu, die Aufgabe des Ausschusses werde „wichtiger und herausfordernder denn je.“¹

Die Führung von OpenAI begrüßte die Rückkehr öffentlich. Mitgründer Greg Brockman schrieb: „welcome @paulfchristiano!“, während er die Rolle der Stiftung bei der Sicherheits-Governance hervorhob.Greg Brockman (gdb)² Geschäftsführer Sam Altman bezeichnete Christianos Sicherheitsarbeit als wertvoll und sagte, er sei „Excited to work together again.“Sam Altman (sama)³

Die Ernennung dürfte auch durch eine kritischere externe Brille betrachtet werden: Ein anderer Account bezeichnete Christiano als einen „prominent AI doomer“ und spiegelte damit die Sorge des alarmierteren Lagers wider, dass Fortschritte bei den Fähigkeiten den verlässlichen Schutzmaßnahmen davoneilen.⁴ OpenAI signalisiert dagegen, dass diese Bedenken in seine Governance-Struktur gehören – und nicht an deren Rand.