Story
18. Okt. 2026
Anthropic öffnet KI-Wachhunden seine Türen – behält aber den Schlüssel für Schwärzungen
Anthropic stellt seine neue Vereinbarung mit METR als praktischen Weg zu öffentlicher Rechenschaftspflicht dar, ohne sensible Systeme offenzulegen, während externe Beobachter darin einen bedeutenden Transparenzschritt sehen, der durch die fortbestehende Kontrolle des Unternehmens darüber eingeschränkt wird, was vertraulich bleiben muss.
Letzten Monat forderte Anthropic-CEO Dario Amodei Unternehmen im Bereich der Spitzen-KI dazu auf, langsamer vorzugehen und externe Prüfer in ihre Betriebsabläufe einzubinden. Das Unternehmen unterzeichnete außerdem das Abkommen des Weißen Hauses über Superintelligenz und schloss sich damit anderen großen Technologiekonzernen an, die zusagten, mit unabhängigen Prüfern zusammenzuarbeiten.1
Am Donnerstag löste Anthropic dieses Versprechen ein, indem es sechs Forscher der gemeinnützigen Organisation Model Evaluation and Threat Research, kurz METR, in seine Büros holte. Das Team verfügt über Unternehmenshardware, Arbeitsräume und Zugang zu internen Tools, die „in etwa gleichwertig“ mit denen von Anthropics eigenem Personal für Risikobewertung sind.1 Anthropic zufolge geht es darum, die Informationslücke zwischen Unternehmen, die leistungsstarke Modelle entwickeln, und Außenstehenden, die deren Risiken beurteilen sollen, zu schließen.
Die Argumentation des Labors ist einfach: Leistungsfähigere Modelle erfordern eine eingehendere Prüfung, doch die Veröffentlichung sämtlicher Details zu Training, Rechenleistung und Schutzmaßnahmen könnte böswilligen Akteuren helfen oder geschäftlich sensible Informationen offenlegen. Es vergleicht die Vereinbarung mit fest vor Ort eingesetzten Prüfern in großen Banken, die gefährliche Risikobereitschaft erkennen sollen, bevor sie der Öffentlichkeit schadet.1
METR ist jedoch nicht einfach ein internes Team mit einem neuen Abzeichen. Anthropic zufolge kann es die Berichte der Gruppe über Risikostufen, Vorfälle und Praktiken nicht verhindern. Es kann Schwärzungen nur für festgelegte Kategorien verlangen, darunter Kundendaten, dem Anwaltsgeheimnis unterliegende Unterlagen und Details zur Modellarchitektur; METR darf öffentlich erklären, ob es diese Schwärzungen für gerechtfertigt hält.1
Dieser Vorbehalt bestimmt die Spannung rund um das Experiment. Berichte über die Ankündigung wiesen auf die Sorge von Kritikern hin, dass Vereinbarungen mit Prüfern Interessenkonflikte schaffen könnten und möglicherweise hinter staatlicher Regulierung zurückbleiben.2 Anthropic erklärt, dass es METR nicht finanziert; dessen Arbeit wird durch philanthropische und staatliche Quellen unterstützt – eine Struktur, die seine Unabhängigkeit schützen soll.2
Das Unternehmen baut zudem ein dreistufiges System auf. SecureBio, das Risiken durch chemische und biologische Waffen prüft, verfügt derzeit über einen engeren Zugang und Veröffentlichungsrechte der ersten Stufe, während METR allein die oberste Stufe einnimmt. Anthropic führt weiterhin Gespräche über Partnerschaften mit Organisationen, darunter Hugging Face, und arbeitet auf eine umfassendere Vereinbarung mit Accenture hin.3 Das Ergebnis ist ein freiwilliges Aufsichtsmodell mit beispiellosem Zugang – dessen tatsächliche Glaubwürdigkeit jedoch davon abhängen wird, was METR veröffentlichen kann.