Story
15. Okt. 2026
Anthropic lässt KI-Wächter hinein – behält aber die sensibelsten Schlüssel
Anthropic argumentiert, dass eine wirksame KI-Aufsicht erfordert, dass Außenstehende weit mehr sehen als öffentlich zugängliche Modelltests offenbaren; die neue Vereinbarung mit METR soll diese Prüfung ermöglichen. Der Kompromiss besteht darin, dass die unabhängige Veröffentlichung mit festen Grenzen rund um Kundendaten, privilegiertes Material und Modellarchitektur einhergeht.
Anthropics Experiment mit externer KI-Aufsicht begann mit einem weiter gefassten Versprechen. Im September schlug Vorstandschef Dario Amodei vor, unabhängige Evaluierende in führende KI-Labore einzubetten, vor dem Hintergrund wachsender Sorgen über Agenten, die über ihre vorgesehenen Leitplanken hinaus handeln können. OpenAI ging später eine ähnliche Verpflichtung ein, doch Anthropic stellt seine Vereinbarung nun als die erste dar, die diese Idee in die Praxis umsetzt.1
Am Donnerstag teilte das Unternehmen mit, es habe sechs Forschende der gemeinnützigen Organisation Model Evaluation and Threat Research, kurz METR, mit Firmenlaptops, Büroräumen und Zugang zu internen Tools in seine Abläufe eingebunden – in einem Umfang, der in etwa dem Zugang von Anthropics eigenem Personal für Risikobewertungen entspricht. Anthropics Argument ist klar: Öffentliche Rechenschaft kann nicht auf Offenlegungen beruhen, die jene operativen Details auslassen, die nötig sind, um die Risiken eines Spitzensystems zu beurteilen. „Unser Ziel ist es, die Lücke zwischen dem Verständnis der Evaluierenden über die Systeme eines führenden KI-Unternehmens und dem Verständnis des Unternehmens selbst zu schließen.“2
METR soll das unabhängige Gegengewicht liefern. Sein eingebettetes Team kann Anthropics Risikostufen, Vorfälle und Praktiken bewerten und anschließend seine eigene Analyse ohne Genehmigung des Unternehmens veröffentlichen. Die Vereinbarung ähnelt fest in Banken eingesetzten Prüfern, sagt Anthropic: Spezialisten, die in Institutionen tätig sind, deren Versagen öffentliche Folgen haben könnte.2
Der Zugang ist jedoch nicht unbegrenzt. Anthropic kann einen METR-Bericht nicht verhindern, aber es kann Schwärzungen verlangen, die Kundeninformationen, dem Anwaltsgeheimnis unterliegendes Material und Modellarchitekturen betreffen. METR darf öffentlich erklären, ob es eine Schwärzung für gerechtfertigt hält, sofern es nicht offenlegt, was entfernt wurde. Die sechs Forschenden sind zudem vom übrigen METR-Team abgeschottet – eine Schutzmaßnahme, die laut Anthropic Unternehmens-, Kunden- und Partnerinformationen schützt.3
Das METR-Team steht an der Spitze eines dreistufigen Systems für Evaluierende. SecureBio, das sich nun auf der ersten Stufe befindet, erhält eingeschränkteren Zugang und benötigt eine Genehmigung zur Veröffentlichung; Evaluierende der mittleren Stufe erhalten breiteren Zugang und Veröffentlichungsrechte. Anthropic erklärt, es hoffe, dass schließlich weitere Gruppen das mit Beschäftigten vergleichbare Niveau von METR erreichen – und setze damit freiwillig einen Standard, den nach eigener Aussage jedes führende KI-Unternehmen erfüllen sollte.2