Story
September 19, 2026
Anthropic will unabhängige KI-Sicherheitsprüfungen – mit Accenture im inneren Kreis
Anthropic argumentiert, dass Prüfer tiefen Zugang innerhalb führender KI-Labore benötigen, um zu testen, ob Sicherheitsversprechen in der Praxis Bestand haben. Skeptiker sehen eine schwierigere Frage: ob ein Unternehmen, das von dem Labor bezahlt wird, das es prüft, wirklich unabhängige Kontrolle leisten kann.
Anthropics jüngste Antwort auf das Problem der Rechenschaftspflicht bei KI-Sicherheit ist kein weiteres öffentliches Versprechen. Es ist ein Prüfer mit einem mitarbeiterähnlichen Einblick aus dem Inneren des Unternehmens.
Der Schritt folgt auf die Zusage von Vorstandschef Dario Amodei, externe Prüfer bei Anthropic einzubetten, während seine Modelle leistungsfähiger werden. Das Unternehmen hat nun Accenture über dessen spezialisiertes KI-Geschäft Faculty als ersten solchen Partner ausgewählt. Accenture wird Modelle mit Red Teams prüfen, ihre Ausrichtung bewerten und Schutzvorkehrungen testen, während es Zugang erhält, der dem eines Anthropic-Mitarbeiters vergleichbar ist.1
Anthropic sagt, dass diese Nähe wichtig sei. Ein eingebetteter Prüfer könne beobachten, wie Modelle während des Trainings entwickelt werden, die Entscheidungen hinter ihrer Veröffentlichung und ihrem Einsatz nachverfolgen und direkt mit Mitarbeitenden sprechen, so das Unternehmen. Von dieser Position aus könnten Prüfer blinde Flecken erkennen, Vorfälle melden und der Öffentlichkeit einen klareren Überblick über die Risiken und Vorteile von KI geben. „Unabhängige eingebettete Prüfer verringern unsere Rechenschaftspflicht nicht, sondern tragen dazu bei, sie überprüfbarer zu machen“, sagte Anthropic.1
Das finanzielle Ausmaß ist bemerkenswert: Anthropic und Accenture rechnen jeweils damit, über fünf Jahre mindestens 1 Milliarde US-Dollar zu investieren, um Bewertungskapazitäten aufzubauen.1 Doch das Unternehmen räumt auch ein, dass das System noch nicht fertig ist. Es gibt keine etablierten Standards für den Zugang oder die Berichterstattung von Prüfern und kein festgelegtes Finanzierungsmodell. Vorerst wird Anthropic die Arbeit von Accenture direkt finanzieren, auch wenn es sagt, dass eine gebündelte oder staatlich unterstützte Finanzierung auf Dauer vorzuziehen wäre.1
Bei dieser Regelung setzen die Zweifel an. Eine skeptische Einordnung fragte schlicht: „Anthropics erster eingebetteter Prüfer ist ... Accenture?“2 Die Sorge besteht nicht darin, dass Bewertungen unnötig seien, sondern darin, dass ein Beratungsunternehmen, das von der Firma bezahlt wird, die es prüft, möglicherweise Schwierigkeiten haben könnte, vollständig unabhängig zu erscheinen.
Anthropic besteht darauf, dass die Partnerschaft nicht exklusiv ist, und sagt, es spreche auch mit gemeinnützigen Prüfern, darunter METR. Das Unternehmen wettet darauf, dass eine Prüfung von innen glaubwürdig gestaltet werden kann. Seine Kritiker fragen, ob der Wachhund zu weit hinter das Tor eingeladen wurde.