Story
17. Nov. 2026

OpenAI öffnet KI-Prüfern die Türen – doch Slack bleibt verschlossen

OpenAI stellt eingebettete Prüfungen als Möglichkeit dar, externen Fachleuten sinnvollen Zugang zu seiner Sicherheitsarbeit zu gewähren. Kritiker sagen hingegen, Einschränkungen bei der Kommunikation und den internen Werkzeugen könnten diesen Zugang weniger unabhängig machen. Im Mittelpunkt des Streits steht die Frage, ob eine gründliche Aufsicht möglich ist, wenn das Unternehmen weiterhin die Grenzen festlegt.

OpenAI hat die erste Runde eingebetteter Prüfungen mit Apollo Research, METR, Transluce und Goodfire angekündigt. Die Initiative soll externen Fachleuten ermöglichen, die Modelle zu untersuchen und Schutzmaßnahmen zu testen. Greg Brockman bezeichnete sie als „Start unserer ersten Runde eingebetteter Prüfungen.“

Das Unternehmen erklärt, dass die Prüfer je nach Prüfung maßgeschneiderten Zugang zu Ressourcen wie Modell-Checkpoints, Quellcode, Trainings- und Evaluierungsdaten, Überwachungssystemen sowie Gesprächen mit Forschenden erhalten. Die erste Prüfung von Apollo soll untersuchen, ob Modelle verdeckt gegen die Absichten ihrer Entwickler vorgehen könnten und ob Schutzmaßnahmen dies erkennen würden. OpenAI zufolge sollen die Prüfungen der vier Firmen die Sicherheitspraktiken stärken und der Öffentlichkeit tiefere Einblicke darin geben, wie Risiken gehandhabt werden.

Apollos erster Einsatz soll vier Monate dauern. Die Bedingungen für diesen Zugang haben jedoch Kritik ausgelöst: Ein Bericht über das Programm besagt, dass Prüfer nur mit Mitarbeitenden sprechen dürfen, die OpenAI genehmigt hat, Gespräche protokolliert werden müssen und das Team keinen Slack-Zugang erhält. Kritiker sagen, diese Einschränkungen blieben hinter dem von Sam Altman versprochenen „mitarbeiterähnlichen Zugang“ zurück.

Die von OpenAI veröffentlichten Protokolle legen andere Schwerpunkte. Das Unternehmen erklärt, dass Prüfer zusätzliche Gespräche mit Mitarbeitenden anfragen können, Gespräche mit Beschäftigten jedoch nicht protokolliert werden, und dass die sichere Arbeit vor Ort dem Schutz vertraulicher Informationen dienen soll. Außerdem werde der Ausschuss für Sicherheit und Schutz des Verwaltungsrats ungeschwärzte Berichte erhalten und könne vertraulich mit den Prüfern sprechen.

Der Konflikt ist deutlich: OpenAI stellt die Einschränkungen als Schutzmaßnahmen für vertrauliche Systeme und die Privatsphäre der Mitarbeitenden dar, während Kritiker bezweifeln, dass Prüfer Hinweisen ungehindert nachgehen können, wenn ihnen kein umfassenderer Zugang gewährt wird. Die Glaubwürdigkeit des Programms wird nicht nur davon abhängen, was die Prüfer untersuchen dürfen, sondern auch davon, ob die Einschränkungen ihnen genug Spielraum lassen, OpenAIs Darstellung seiner eigenen Sicherheitsarbeit infrage zu stellen.

[1] @gdb auf X — „Start unserer ersten Runde eingebetteter Prüfungen:“

[2] Unsere erste Phase eingebetteter Prüfungen — OpenAIs Beschreibung des Zugangs, der Prüfungsziele und der Aufsichtsprotokolle.

[3] OpenAI setzt sein Versprechen um, externen Prüfern Zugang zu gewähren … irgendwie. — Bericht über Einschränkungen bei Apollos Einsatz.