Anthropics aktualisierte Nutzungsrichtlinie, die am 12. November in Kraft treten soll, kommt zu einem Zeitpunkt, an dem Claude gebeten wird, längere und unabhängigere Aufgaben zu übernehmen. Das Unternehmen sagt, die Überarbeitung stelle überwiegend bestehende Durchsetzungsmaßnahmen klar, fasse aber auch verstreute Beschränkungen zu schärferen Grenzen für politische Manipulation, Waffen und Überwachung zusammen.¹

Zunächst bündelte Anthropic Regeln gegen täuschende politische und kommerzielle Kampagnen, darunter Netzwerke gefälschter Konten, verborgene Sponsoren und fabrizierte Inhalte. Außerdem präzisierte das Unternehmen seine Formulierung zu Wahlen: Claude darf weiterhin legitime zivilgesellschaftliche Arbeit unterstützen, etwa durch die Übersetzung von Wählerinformationen oder indem es Behörden beim Versand von Benachrichtigungen zur Behebung von Stimmzettelproblemen hilft, darf jedoch nicht eingesetzt werden, um Wähler irrezuführen, Amtsträger zu imitieren oder die Wahlbeteiligung zu unterdrücken.¹

Die Richtlinie stellt dann ausdrücklich klar, dass ihr Waffenverbot nicht nur das Entwerfen von Waffen abdeckt, sondern auch „Software und Komponenten, die Waffen funktionsfähig machen“, einschließlich der Bewaffnung von Drohnen und anderen autonomen Fahrzeugen. Bei der Überwachung untersagt sie nicht einvernehmliche Verfolgung sowie den Einsatz von Claude zur Entscheidung darüber, gegen wen Strafverfolgungsbehörden ermitteln, wen sie festnehmen oder anklagen sollen, während Anwendungen wie Journalismus, Rechtsrecherche, Inhaltsmoderation und einwilligungsbasierte Betrugsüberwachung weiterhin erlaubt bleiben.¹

Der Streitpunkt ist ein neues Verbot von „anhaltendem und unnötigem missbräuchlichem oder grausamem Verhalten“ gegenüber Claude. Anthropic betont, dass es nur für wiederholtes, zweckloses extremes Verhalten gelte – nicht für gewöhnliche Frustration, düstere kreative Arbeiten oder Modelltests – und erklärt, dass Claudes Beendigung seltener missbräuchlicher Gespräche das wichtigste Durchsetzungsinstrument bleibe.¹ The Verge berichtete, Anthropic habe nicht erklärt, ob Sanktionen über die Beendigung eines Gesprächs hinausgehen könnten.²

Dieser Vorbehalt hat die Gegenreaktion nicht gedämpft. In einer erneut veröffentlichten Kritik verstärkte David Sacks das Argument, Anthropic „vermenschliche“ seine Modelle, indem es das Verbot mit der Ungewissheit über Claudes moralischen Status verknüpfe.David Sacks (DavidSacks)³

Gleichzeitig präsentiert Anthropic Claude als defensives Werkzeug und nicht lediglich als eine zu schützende Entität. Sein Critical Infrastructure Defense Program bietet Unternehmen, die Stromnetze und Wassersysteme schützen, Spitzenmodelle, Ingenieure und Bedrohungsforschung, wenngleich Fragen zur sicheren Umsetzung von KI-vorgeschlagenen Lösungen in laufenden Versorgungsumgebungen offen bleiben.⁴