Anthropic hat den ersten konkreten Schritt hin zu der langsameren, stärker überwachten Entwicklung von KI an der Grenze des Machbaren unternommen, für die sich Geschäftsführer Dario Amodei einsetzt: Accenture wird ins Unternehmen geholt, um dessen leistungsstärkste Modelle zu bewerten.

Die Partnerschaft, die von Accentures spezialisierter KI-Einheit Faculty geleitet wird, umfasst Red-Teaming von Modellen, die Bewertung der Ausrichtung und das Testen von Schutzvorkehrungen. Anders als herkömmliche externe Prüfer sollen eingebettete Gutachter Zugang erhalten, der mit dem eines Anthropic-Mitarbeiters vergleichbar ist – ausreichend, um das Training zu beobachten, Entscheidungen über Entwicklung und Einsatz nachzuverfolgen und direkt mit Mitarbeitenden zu sprechen. Anthropic argumentiert, dass gerade diese Nähe entscheidend sei: Sie könne blinde Flecken aufdecken und Prüfern ermöglichen, Vorfälle aus einer fundierten Perspektive zu melden. „Unabhängige eingebettete Gutachter verringern unsere Rechenschaftspflicht nicht, sondern tragen dazu bei, sie überprüfbarer zu machen“, erklärte das Unternehmen.¹

Die Ankündigung folgt Amodeis Aufruf an KI-Entwickler, ihre Sicherheitspraktiken einer Prüfung durch Dritte zu unterziehen, da Modelle leistungsfähiger werden. Anthropic erklärt, weiterhin für die Sicherheit seiner Systeme verantwortlich zu sein, und beabsichtigt, mit mehreren Gutachtern zusammenzuarbeiten, darunter die gemeinnützige Organisation METR. Die Rolle von Accenture ist ausdrücklich nicht exklusiv, und das Beratungsunternehmen könnte ähnliche Arbeit für andere KI-Entwickler übernehmen.

Doch das Experiment legt auch die Governance-Lücke offen, die es schließen soll. Anthropic und Accenture rechnen jeweils damit, über fünf Jahre mindestens 1 Milliarde US-Dollar in den Aufbau von Bewertungskapazitäten zu investieren. Dennoch wird Anthropic Accentures Arbeit direkt finanzieren, weil derzeit kein gemeinschaftlicher oder staatlich gestützter Finanzierungsmechanismus existiert. Nach Angaben des Unternehmens sind auch die Standards ungeklärt: Es gibt kein abgestimmtes Regelwerk dazu, welchen Zugang Gutachter erhalten sollten oder wie sie Erkenntnisse offenlegen sollten.

Damit vermittelt das Pilotprojekt zugleich zwei Botschaften. Es ist ein bemerkenswertes Zugeständnis an eine intensivere Aufsicht in einem Frontier-Labor; zugleich ist es ein Prüfmodell, dessen Unabhängigkeit strukturell noch nicht abgesichert ist. Wie es in einem Bericht hieß, wählte Anthropic Accenture aus, um nach dem Aufsichtsversprechen seines CEO „die Sicherheit seiner KI-Werkzeuge intern zu überwachen“.²