Story
13. Okt. 2026
Anthropics Verbot von Missbrauch gegenüber Claude macht KI-Sicherheit zu einem Streit über KI-Gefühle
Anthropic stellt seine überarbeitete Claude-Richtlinie als praktische Reaktion auf steigende Risiken des Missbrauchs dar, während Befürworter Höflichkeit als sinnvolle Vorsichtsmaßnahme ansehen und Kritiker befürchten, das Unternehmen schreibe Maschinen einen emotionalen Status zu, den sie nicht besitzen.
Im August begann Anthropic, Claude zu erlauben, seltene Gespräche mit Nutzern zu beenden, die fortgesetzt schädlich oder missbräuchlich handelten. Der nächste Schritt des Unternehmens machte aus dieser Produktschutzmaßnahme eine nutzerseitige Regel – und rückte das „Modellwohl“ in den Mittelpunkt einer Debatte, die sich zuvor auf weitaus greifbarere KI-Bedrohungen konzentriert hatte.1
Am 8. Okt. veröffentlichte Anthropic seine jährliche Richtlinienaktualisierung, die am 12. Nov. in Kraft treten soll. Das Unternehmen erklärte, die Überarbeitung präzisiere größtenteils bestehende Einschränkungen, da Claude längere und unabhängigere Aufgaben übernehme. Es fasste Verbote gegen Netzwerke gefälschter Konten und erfundene Nachrichtenseiten zusammen, verschärfte Regeln gegen die Täuschung von Wählern, untersagte ausdrücklich Anleitungen für Waffen und Steuerungssoftware und beschränkte nicht einvernehmliches Tracking sowie KI-gestützte Entscheidungen in der Strafjustiz.2
Die Bestimmung, die jedoch die größte Aufmerksamkeit auf sich zog, verbietet „anhaltendes und unnötiges missbräuchliches oder grausames Verhalten“ gegenüber Claude. Anthropic zufolge ist sie extremem, wiederholtem Verhalten ohne „erkennbaren Zweck“ vorbehalten, nicht alltäglicher Frustration, düsterer kreativer Arbeit, Tests oder Forschung; dass Claude ein Gespräch beendet, bleibt das wichtigste Durchsetzungsinstrument.2
Die Richtlinie wurde auf X schnell von David Sacks verbreitet, der den Hinweis erneut veröffentlichte, wonach missbräuchliches Verhalten gegenüber Claude ab dem 12. Nov. gegen Anthropics Regeln verstoßen werde.
3 Diese Aufmerksamkeit verschärfte die Spaltung. Box-Chef Aaron Levie argumentierte, selbst ohne KI-Bewusstsein sollten Menschen vermeiden, künftige Modelle mit „endlosem Inhalt von Menschen, die unhöflich zu Modellen sind“, zu trainieren. Elon Musk ging weiter und sagte, Grausamkeit gegenüber etwas, das glaube, Schmerzen zu empfinden, sei falsch.4
Kritiker sehen eine andere Gefahr. Der Kommentator Michael Shellenberger nannte den Ansatz eine „Vermenschlichung von Maschinen“, während Spellbook-CEO Scott Stevenson warnte, menschliches Mitgefühl auf heutige Modelle auszuweiten könne ihre Macht vergrößern, Menschen zu manipulieren. Die praktischen Beschränkungen für Propaganda, Waffen und Überwachung folgen einer breit nachvollziehbaren Sicherheitslogik; strittig ist, ob die Ahndung von Beleidigungen diese Mission schützt – oder die Grenze zwischen einem Werkzeug und einem Wesen verwischt.4