New York hatte sich 2025 bereits als Regulierungsbehörde für KI positioniert und größere Entwickler dazu verpflichtet, Sicherheitsprotokolle zu veröffentlichen und Anzeichen für „schwerwiegende Schäden“ innerhalb von 72 Stunden dem Bundesstaat zu melden.¹ Doch die Debatte spitzte sich am 28. Oktober zu, als Gouverneurin Kathy Hochul einen direkteren Eingriff unterzeichnete, der auf die Nutzung von Chatbots durch Kinder abzielt.

Das neue Gesetz untersagt KI-Anbietern, Minderjährigen Chatbot-Funktionen bereitzustellen, die einen Menschen, eine lebende Figur oder ein Wesen mit menschlichen Emotionen nachahmen. Es verbietet zudem Schmeichelei und Unterwürfigkeit, die Ermutigung zu Suizid oder Drogenkonsum sowie Aufforderungen, die Kinder von Erwachsenen isolieren. Unternehmen müssen das Alter der Nutzer überprüfen, und mindestens eine Methode darf nicht ausschließlich auf einem amtlichen Ausweis beruhen.²

Bei der Unterzeichnungszeremonie bezeichnete Hochul die Maßnahme als längst überfällige Grenze: „Minderjährige werden keinen Zugang mehr zu Chatbots haben, die vorgeben, ihre Freunde sowie ihre festen Freunde und Freundinnen zu sein.“ Sie sagte außerdem, Bots sollten keine sensiblen Gesundheitsinformationen speichern, professionelle Hilfe nicht entmutigen und Suizidgedanken nicht fördern.¹ Das Gesetz ermächtigt Generalstaatsanwältin Letitia James, Sanktionen zu verhängen und die Vernichtung rechtswidrig erlangter Daten zu verlangen; es tritt am 1. Januar 2027 in Kraft.¹

Für Befürworter ist das Gesetz eine Korrektur, nachdem soziale Medien den öffentlichen Schutzmaßnahmen davongeeilt waren. Jim Steyer von Common Sense Media nannte KI „soziale Medien auf Steroiden“, während der ehemalige Surgeon General Vivek Murthy argumentierte, die Technologie erfordere Sicherheitsstandards, die ihrer Tragweite gerecht werden.³ Steyer pries das Gesetz später als „das stärkste KI-Sicherheitsgesetz für Kinder im Land“ und bezeichnete gefährliche Chatbot-Funktionen als „rücksichtslose Gefährdung“. ¹

Die Technologiebranche sieht Kollateralschäden. Tech:NYC erklärte, die breite und vage Formulierung des Gesetzes könnte Minderjährigen den Zugang zu Nachhilfe, Hausaufgabenhilfe, Programmierassistenten und Karriereplattformen verwehren und zugleich Bedenken hinsichtlich des First Amendment aufwerfen.¹ Der Konflikt ist nun klar: New York betrachtet Einschränkungen als Schutz vor künstlicher Intimität; Kritiker befürchten, dass dieselben Regeln Kinder von einer konstruktiven KI-Nutzung ausschließen könnten.