Im vergangenen Monat verpflichtete sich Anthropic angesichts wachsender Sorge über zunehmend leistungsfähige KI-Systeme und Forderungen nach strengeren externen Kontrollen zu verstärkter unabhängiger Bewertung und unterzeichnete das White House Accord on Super Intelligence. Das Unternehmen argumentierte, öffentliche Rechenschaftspflicht erfordere unabhängige Prüfung, könne jedoch nicht jedes Sicherheitsdetail offenlegen, weil manches Material böswilligen Akteuren helfen oder geschäftlich sensible Informationen preisgeben könnte.¹

Am Donnerstag machte Anthropic aus diesem Versprechen ein konkretes Experiment: Sechs Mitarbeitende der gemeinnützigen Organisation Model Evaluation and Threat Research, kurz METR, wurden mit Unternehmenshardware, Büroräumen und Zugang zu internen Tools ausgestattet, der „in etwa auf dem Niveau“ der eigenen Risikobewertungsteams von Anthropic liegt.¹ Das Unternehmen erklärt, Mitarbeitende sollten Informationen mit den eingebetteten Forschenden ähnlich teilen wie mit einer Person, die als Angestellte an Alignment-Risiken arbeitet.

Anthropic argumentiert, dies gehe tiefer als ein herkömmliches Audit. Mit einem Vergleich zu ansässigen Bankprüfern erklärt das Unternehmen, das Ziel sei, die Informationslücke zwischen einem Entwickler führender KI und jenen zu verringern, die dessen Risiken bewerten. METR wird die Risikoniveaus, Vorfälle und Praktiken des Unternehmens bewerten und anschließend eine eigene Analyse veröffentlichen.¹

Die angebotene Unabhängigkeit hat jedoch klare Grenzen. Anthropic kann eine Veröffentlichung nicht verhindern, aber Schwärzungen verlangen, die Kundendaten, dem Anwaltsgeheimnis unterliegende Informationen und Modellarchitekturen betreffen. METR darf öffentlich sagen, ob es eine Schwärzung für gerechtfertigt hält, sofern nicht offengelegt wird, was entfernt wurde.² Das macht die Vereinbarung nach Branchenmaßstäben ungewöhnlich transparent, aber nicht vollständig frei von Unternehmenskontrolle.

Das METR-Team ist derzeit allein in der obersten Prüferstufe von Anthropic. SecureBio, das den Abschnitt über chemische und biologische Waffen in Anthropics Risikobericht vom August prüft, hat engeren Zugang der ersten Stufe und benötigt zur Veröffentlichung eine Genehmigung; Anthropic strebt zudem Partnerschaften mit Accenture, Faculty und möglicherweise Hugging Face an.¹

Anthropic bezeichnet das Programm als freiwillig und sagt, jedes Unternehmen für führende KI sollte diesem Beispiel folgen. Vorerst ist es ein Test dafür, ob ein Prüfer ausreichend tief unter die Haube schauen kann, während das untersuchte Unternehmen weiterhin den Schlüssel für Schwärzungen in der Hand hält.¹