Story
September 19, 2026
KI-Evaluatoren wollen Zugang zu internen Informationen — doch der Streit darüber, wer die Labore überwacht, beginnt gerade erst
Sicherheitsevaluatoren argumentieren, dass eine wirksame Aufsicht über leistungsstarke KI Zugang und Unabhängigkeit erfordert, die die Labore nicht widerrufen können. Ihre Kritiker bestreiten weniger die Tragweite als vielmehr, wer Autorität über die Branche ausüben sollte – und ob Haftung statt Aufsehern die Antwort ist.
Die Debatte verschärfte sich, nachdem Anthropic-Chef Dario Amodei vorgeschlagen hatte, externen Evaluatoren „mitarbeiterähnlichen Zugang“ zur Entwicklung von Frontier-Modellen zu gewähren – ein Vorschlag, den später OpenAIs Sam Altman, Microsofts Satya Nadella und Elon Musk öffentlich unterstützten. Die praktischen Details jedoch – wer ausgewählt wird und wie tief sie in die Unternehmen Einblick erhalten können – sind weiterhin ungeklärt.1
Am Freitag antworteten das AI Evaluator Forum sowie mehr als 100 Akademiker, Forscher und Branchenvertreter mit einem öffentlichen Katalog von Mindestbedingungen. Ihre Prämisse ist unverblümt: Eine Sicherheitsprüfung ist nicht unabhängig, wenn das überprüfte Unternehmen die Informationen, das Geld oder die Folgen kontrolliert.
Die Unterzeichner, darunter Geoffrey Hinton und Stuart Russell, forderten „wissenschaftliche Objektivität, Transparenz, Unabhängigkeit und robusten Schutz vor Einflussnahme“. Sie wollen, dass Evaluatoren direkt mit Vorständen sprechen können, Erkenntnisse nach eng begrenzten Schwärzungen veröffentlichen und dieselben relevanten Systeme, Daten, Werkzeuge und physischen Zugang erhalten wie leitende interne Prüfer.2
Conrad Stosz, Vorsitzender des Forums hinter dem Schreiben, sagte, bei der Kampagne gehe es darum sicherzustellen, dass unabhängige Aufsicht ein „wirksames Instrument für den breiten Umgang mit KI-Risiken“ sei und nicht ein Ersatz für die eigene Sicherheitsarbeit der Labore. Er argumentierte, dass der Zugang zu unveröffentlichten Systemen und sensiblen internen Daten ein weitaus größeres Vertrauen in Risiken der realen Welt ermöglichen würde.1
Unterstützer stellen die Forderung als Kontrolle konzentrierter technologischer Macht dar. Vinh Nguyen, ein ehemaliger leitender KI-Beauftragter der National Security Agency, warnte, dass weder die Regierung noch die Öffentlichkeit auf die „eigene Darstellung dessen, was sicher und geschützt ist“ durch eine Handvoll Labore angewiesen sein sollten.1
Doch das vorgeschlagene Modell der Aufsicht ist auch zu einem politischen Angriffsziel geworden. David Sacks verbreitete einen Bericht weiter, der die von Anthropic ausgewählte Aufsichtsstelle als mit der „woken Effective-Altruism-Bewegung“ verbunden und als „einen völligen Witz“ beschrieb.
3 In einem separaten Repost unterstützte er ein anderes Prinzip: „Der beste Weg, die Entwicklung an der Grenze zu steuern, besteht darin, die Labore vollständig für das Verhalten ihrer Modelle haftbar zu machen.“4
Damit entsteht eine sich vertiefende Trennlinie: Evaluatoren verlangen geschützten Zugang, bevor Schäden entstehen; Kritiker bevorzugen nachträgliche Rechenschaftspflicht, ohne eine neue Klasse von KI-Schiedsrichtern mit Macht auszustatten.