Story
Oktober 3, 2026
OpenAIs Sicherheitschef tritt zurück und sagt, der entscheidende Hebel liege außerhalb
David Robinsons Weggang verdeutlicht eine zunehmende Kluft bei der KI-Sicherheit: Er sieht eine Branche, die zu sehr von Geschwindigkeit eingenommen ist, um sich selbst zu reformieren, während OpenAI darauf besteht, seine Schutzvorkehrungen parallel zu leistungsfähigeren Modellen zu verstärken.
David Robinsons Rücktritt erfolgte in einer für OpenAIs Sicherheitsabteilung ohnehin schwierigen Phase. Der ehemalige Leiter des Safety-Systems-Teams, der an Transparenz und Model System Cards arbeitete, verließ das Unternehmen vergangene Woche, als die Prüfung von Personalbesetzung, Sicherheitsvorfällen und der Frage zunahm, ob das Unternehmen schnell genug handelte, um die Risiken zunehmend leistungsfähiger KI einzudämmen.1
Robinson hatte dreieinhalb Jahre bei OpenAI verbracht und Teile seines Vorsorgekonzepts sowie der Sicherheitsberichterstattung verantwortet. In seinem anschließenden Essay im Atlantic beschrieb er einen Arbeitsplatz, der in unablässiger Bewegung gefangen sei: „Meine Kollegen und ich waren so beschäftigt damit, zu sprinten, dass wir selten die Gelegenheit hatten, große Veränderungen zu erwägen.“2 Seine Schlussfolgerung war nicht, dass Sicherheitsarbeit innerhalb des Labors sinnlos sei, sondern dass sie ohne externen Hebel unzureichend sei. „Stärkere Anreize für Sicherheit — von außerhalb des Unternehmens kommend — sind ein großer Teil davon, dies richtig zu machen“, schrieb er.2
OpenAI stellte seine Haltung deutlich anders dar. Ein Sprecher sagte, das Unternehmen arbeite daran sicherzustellen, dass die Fähigkeiten der Modelle seine Kontrollen nicht überholen, und fügte hinzu, man werde „das Training pausieren oder Modelle zurückhalten, wenn wir langsamer machen müssen“. Das Unternehmen verwies zudem auf strengere Sicherheit, Bewertungen durch Dritte und eine frühzeitigere Überwachung auf besorgniserregendes Verhalten.2
Der Konflikt geht über einen einzelnen Rücktritt hinaus. Robinson reiht sich in eine wachsende Zahl sicherheitsorientierter Abgänge von führenden KI-Unternehmen ein, deren ehemalige Mitarbeiter argumentieren, dass das „extreme Selbstvertrauen“ und die „permanenten Sprints“ des Silicon Valley schlecht zu Systemen mit potenziell schwerwiegenden Folgen passten. Ihr Rezept ähnelt eher dem für Kernkraftwerke oder stark frequentierte Flughäfen: Redundanz, Planung und Demut statt alleiniger Optimismus.3
Für Robinson ist der nächste Schritt weiterhin offen. Doch seine Botschaft ist klar: Der Kampf um KI-Schutzvorkehrungen könnte nun ebenso sehr durch öffentlichen Druck und externe Institutionen geführt werden wie durch die Unternehmen, die die Modelle entwickeln.2