Story
September 18, 2026
KI-Sicherheitsexperten fordern Aufseher, die Labore nicht zum Schweigen bringen können
KI-Sicherheitsbewerter argumentieren, dass Zugang ohne Unabhängigkeit die Aufsicht zu einer vom Unternehmen kontrollierten Übung machen würde, während Befürworter einer Haftung der Labore infrage stellen, ob externe Aufseher die richtige Antwort sind. Im entstehenden Streit geht es nicht darum, ob Spitzen-KI überprüft werden muss, sondern wer diese Prüfung durchführen darf – und zu welchen Bedingungen.
Die Debatte nahm am Wochenende Fahrt auf, als Anthropic-Chef Dario Amodei vorschlug, externen Evaluatoren „mitarbeiterähnlichen Zugang“ zu gewähren, damit sie Spitzenmodelle und deren Entwicklung prüfen können. OpenAI-Chef Sam Altman, Microsofts Satya Nadella und andere unterstützten das Grundkonzept öffentlich und rückten damit eine einst wenig bekannte Gemeinschaft von KI-Testern ins Zentrum der Sicherheitsdebatte der Branche.1
Am Freitag antwortete das von mehr als 100 Experten, darunter Geoffrey Hinton und Stuart Russell, unterstützte AI Evaluator Forum mit einer Liste nicht verhandelbarer Anforderungen. Seine Position war eindeutig: Zugang allein ist keine Aufsicht. Evaluatoren müssen über „wissenschaftliche Objektivität, Transparenz, Unabhängigkeit und robuste Schutzmaßnahmen gegen Einflussnahme“ durch die Unternehmen verfügen, die sie bewerten.2
Die Gruppe will Aufseher, die direkt und ungefiltert mit Unternehmensvorständen sprechen, Ergebnisse vorbehaltlich eng begrenzter Schwärzungen veröffentlichen und Zugang zu denselben relevanten Systemen, Daten, Werkzeugen und physischen Räumlichkeiten erhalten können wie leitende interne Risikomitarbeiter. Sie fordert außerdem mehrere Evaluatoren mit unterschiedlicher Expertise statt eines einzigen, vom Labor genehmigten Schiedsrichters.
Conrad Stosz, der das Forum leitet, beschrieb die Initiative als Versuch, gemeinsame Grundlagen zu schaffen, nicht ein einziges Regulierungsmodell vorzuschreiben. Doch Unterzeichner Vinh Nguyen formulierte die Tragweite schärfer: Wenn eine Handvoll Labore Fähigkeiten kontrolliert, die Cybersicherheit, kritische Infrastruktur und die Wirtschaft bedrohen könnten, „können Regierung und Öffentlichkeit nicht auf die eigene Darstellung dieser Labore darüber angewiesen sein, was sicher und geschützt ist.“1
Der Vorstoß ist auf Widerstand von Personen gestoßen, die dem deregulierungspolitischen Ansatz der Trump-Regierung nahestehen. David Sacks verstärkte die Kritik an dem, was als Anthropics „handverlesener KI-Aufseher“ bezeichnet wurde, und erklärte dessen Verbindungen zum effektiven Altruismus zum Grund, ihn als „einen kompletten Witz“ anzusehen.
3 In einem separaten Repost hob Sacks ein konkurrierendes Prinzip hervor: „Der beste Weg, die Entwicklung an der Spitze zu steuern, besteht darin, die Labore vollständig für das Verhalten ihrer Modelle haftbar zu machen.“4
Damit bleibt eine zentrale Konfliktlinie bestehen. Evaluatoren sagen, glaubwürdiger externer Zugang könne interne Schutzmaßnahmen ergänzen; Skeptiker argumentieren, dass direkte Haftung – und nicht eine neue Klasse eingebetteter Kontrolleure – die Labore dazu zwingen sollte, für die von ihnen geschaffenen Risiken einzustehen.