Anthropic hat sein vorgeschlagenes Modell zur Aufsicht über KI an der Grenze des Machbaren von der Theorie zu einem laufenden Experiment weiterentwickelt und Accenture als seinen ersten eingebetteten Evaluator benannt. Das Unternehmen und die Beratungsgesellschaft erwarten, über fünf Jahre jeweils mindestens 1 Milliarde US-Dollar zu investieren, um Bewertungskapazitäten aufzubauen; Accentures spezialisiertes KI-Geschäft Faculty soll die Arbeit leiten.¹

Die Vereinbarung soll über herkömmliche externe Prüfungen hinausgehen. Anthropic zufolge werden eingebettete Evaluatoren innerhalb von KI-Unternehmen mit einem Zugang arbeiten, der dem von Beschäftigten vergleichbar ist: Sie beobachten Modelle während ihrer Entwicklung im Training, verfolgen Entscheidungen über ihren Einsatz hinweg, sprechen direkt mit Mitarbeitenden und bewerten, ob Sicherheitszusagen eingehalten werden. Accenture soll Modelle mittels Red Teaming prüfen, Alignment-Bewertungen durchführen und Schutzmaßnahmen testen sowie seine Erfahrung damit einbringen, wie Unternehmen und Regierungen KI nutzen.¹

Anthropic argumentiert, dass Nähe die Kontrolle stärken statt verwässern kann. „Unabhängige eingebettete Evaluatoren verringern unsere Rechenschaftspflicht nicht, sondern tragen dazu bei, sie überprüfbarer zu machen“, erklärte das Unternehmen und betonte zugleich, dass die letztendliche Verantwortung für die Modellsicherheit bei Anthropic verbleibt.¹

Doch die Ankündigung legt auch die Schwachstellen dieses entstehenden Aufsichtsmodells offen. Es gibt keine etablierten Standards für Zugang, Berichterstattung oder Finanzierung eines Evaluators, und Anthropic wird Accentures Arbeit direkt finanzieren, weil es bislang keine gebündelte oder staatlich unterstützte Finanzierung gibt. Das Unternehmen erklärt, es spreche mit METR und anderen gemeinnützigen Evaluatoren, hoffe letztlich mit mehreren Gruppen zusammenzuarbeiten und bezeichne die Partnerschaft mit Accenture als nicht exklusiv.¹

Die skeptische Reaktion verdichtet sich in einer einzigen zugespitzten Frage: „Anthropics erster eingebetteter Evaluator ist ... Accenture?“² Diese Einordnung stellt nicht die Notwendigkeit rigoroser Tests infrage. Sie bezweifelt, ob eine Beratungsgesellschaft, die von dem Labor bezahlt wird, das sie untersucht, die Unabhängigkeit liefern kann, die das Experiment verspricht. Anthropics nächste Entscheidungen bei der Auswahl von Evaluatoren – und die Regeln dafür, was Accenture offenlegen darf – werden darüber entscheiden, ob daraus ein glaubwürdiges Sicherheitsmodell oder eine ausgefeilte Form der Selbstaufsicht wird.