Anthropics Vorstoß, von Claude generiertes Material rückverfolgbar zu machen, verwandelt eine Transparenzmaßnahme in ein schärferes Ringen um die Urheberschaft. Die Markierungen mögen unsichtbar sein, aber die Angst um sie ist es nicht.

Der Streit begann mit den neuen Transparenzpflichten des EU AI Act, die seit dem 2. August gelten und Anbieter verpflichten, von KI generiertes oder manipuliertes Material maschinell erkennbar zu machen. Anthropic erklärte, neue Claude-Modelle würden weltweit Text mit Wasserzeichen versehen und C2PA-Provenienz-Metadaten an unterstützte Dateien anhängen; ältere Modelle sollen folgen.¹

Anschließend bemühte sich Anthropic zu erklären, dass es sich bei dem Textsystem nicht um ein verstecktes Zeichen oder sichtbares Tag handelt. Es verwendet eine Version von Google DeepMinds SynthID-Text-Methode: Wenn Claude mehrere gleichermaßen plausible Wortwahlmöglichkeiten hat, formt ein schlüsselbasiertes Muster diese Entscheidungen mit geringem Risiko. Das Unternehmen sagt, Leser würden keinen Unterschied bemerken und dass das Ergebnis nur eine begrenzte Frage beantworte: „Wie wahrscheinlich ist es, dass dies teilweise von Claude geschrieben wurde?“²

Diese Einschränkung hat wenig dazu beigetragen, die Gegenreaktion zu beruhigen. Kritiker argumentieren, dass eine Markierung auf Modellebene die Grenze verwischen kann zwischen einem Dokument, das von Claude geschrieben wurde, und einem, das lediglich zur Übersetzung, Formatierung oder Korrektur durch das Modell geschleust wurde. Ars Technica warnte, Claude könnte „genau den Inhalt stempeln, den das Gesetz eigentlich ausnehmen wollte“, da die EU-Leitlinien routinemäßige unterstützende Bearbeitung ausnehmen, die den Text eines Nutzers nicht wesentlich verändert.³

Einige Claude-Abonnenten haben darauf mit Kündigung reagiert. Nutzer, die stornierten, sagten Business Insider, sie fürchteten, ein dauerhaftes Signal in Code oder Kundenarbeit könne Fragen zu Compliance, Eigentum und dazu aufwerfen, wie viel der Arbeit wirklich von ihnen stamme. Ein Berater brachte den Frust unverblümt auf den Punkt: „Selbst wenn du deine eigene Arbeit bearbeitest, die du geschrieben hast, fügen sie trotzdem das Wasserzeichen hinzu.“⁴

Unterstützer sehen in derselben Funktion eine überfällige Offenlegung. Sie argumentieren, Leser, Arbeitgeber und Plattformen sollten unterscheiden können zwischen dem Denken einer Person und dem Output eines Chatbots – und dass Kennzeichnungen helfen könnten zu verhindern, dass künftige KI-Systeme auf einem wachsenden Pool synthetischen Textes trainiert werden. Das zentrale Problem ist, dass beide Lager die Notwendigkeit besserer Provenienz anerkennen; sie sind sich nicht einig, ob Claudes Signal diese vermitteln kann, ohne menschliche Arbeit unfair unter Verdacht zu stellen.⁵