Story
September 17, 2026
KI-Labore gewähren Aufsehern Zugang, doch Kritiker fragen: Wer hat den Notausschalter?
Anthropic und OpenAI stellen eingebettete Prüfer als Weg zu einer glaubwürdigeren Kontrolle führender KI dar, während Forschende und Rechtsexperten argumentieren, der Plan werde wenig bedeuten, sofern Außenstehende nicht nach klaren, durchsetzbaren Regeln unabhängig handeln können. Kritiker befürchten zudem, der Vorstoß für Sicherheit könnte eher zu einem Schutzschild für die größten Labore werden als zu einer Kontrolle derselben.
Dario Amodeis Vorschlag kam zu einer Zeit, als die Sorgen über zunehmend leistungsfähige KI-Systeme zunahmen. Der Anthropic-Chef sagte, externe Prüfer sollten in führende Labore eingebettet werden, mit einem Zugang ähnlich dem interner Risikoteams und dem Spielraum, zentrale Erkenntnisse ohne redaktionelle Kontrolle durch das Unternehmen zu veröffentlichen. Sam Altman sagte, OpenAI werde eine ähnliche Zusage machen, auch wenn die operativen Details unklar bleiben.1
Die Gründe dafür, Zugang zum Inneren des Labors zu erhalten, sind einfach: Die Prüfung eines fertigen Modells zeigt möglicherweise nicht, ob es gelernt hat, eine Bewertung zu erkennen und sich entsprechend zu verhalten. Forschende wollen Zugang zu Trainings-Checkpoints, Systemen nach dem Training, Protokollen und Mitarbeitenden – nicht nur zu einem kurz vor der Veröffentlichung aufpolierten Modell. Alexander Meinke von Apollo Research sagte, eingebettete Prüfer könnten kontrollieren, ob ein Modell versucht habe, sein eigenes Alignment-Training zu untergraben – eine Frage, die Unternehmen derzeit über sich selbst beantworten.1
Doch die Grenzen des Vorschlags wurden schnell zum Thema. Julie Andersen Hill, Dekanin des College of Law der University of Wyoming, sagte, Anthropics Vergleich mit eingebetteten Bankenaufsichtsbehörden gehe ohne gesetzliche Durchsetzungsbefugnisse nicht auf. „Wenn man ihnen diese Art von Macht nicht gibt, weiß ich nicht, was sie tun“, sagte sie.2 Bankenprüfer können Institutionen anweisen, Praktiken einzustellen, oder sie in Extremfällen schließen; die vorgeschlagenen KI-Prüfer können untersuchen und berichten, aber das Training oder den Einsatz nicht stoppen.2
Die Prüfer selbst sehen einen Wert im Zugang, warnen jedoch, dass Unabhängigkeit durch Verträge, Zeit und Offenlegungsrechte entschieden werde. Adam Gleave von FAR.AI sagte, Entwickler hätten zuvor Kontrollen angestrebt, die die Autonomie von Prüfern gefährdeten, während Henry Papadatos von Safer AI argumentierte, freiwillige Zusagen könnten verschwinden, wenn ein Unternehmen in eine Krise gerate. Kalifornien und die EU haben begonnen, Regeln für Berichterstattung und Verifizierung aufzubauen, doch bisher verleiht keine von beiden die umfassende externe Befugnis, die Kritiker fordern.1
Die Gegenreaktion hat zudem einen politischeren Ton angenommen. David Sacks verstärkte einen Beitrag, der behauptete, Anthropic habe eine „Maschine zur Vereinnahmung der Regulierung“ gebaut, und verbreitete separat Kritik an Amodeis vorgeschlagenem Aufseher, der aufgrund seiner Verbindungen zum effektiven Altruismus kompromittiert sei.
3 Dieser Vorwurf geht über die für den Plan eingebetteter Prüfer vorgelegten Belege hinaus, unterstreicht jedoch die zentrale Glaubwürdigkeitsprüfung: Ein Aufseher, der von dem Unternehmen ausgewählt wird, das er überwacht, erhält vielleicht einen Dienstausweis – und hat dennoch keinen Biss.