Story
30. Okt. 2026
New York verbietet KI-„Freunde“ für Kinder, doch die Tech-Branche sieht Lernhilfen in Gefahr
New Yorker Behördenvertreter und Befürworter des Kinderschutzes sehen KI im Begleiter-Stil als ein zu schwerwiegendes Risiko an, um es freiwilligen Schutzmaßnahmen zu überlassen, während Technologieunternehmen argumentieren, die weitreichenden Beschränkungen des Bundesstaats könnten jungen Menschen legitime Unterstützung in Bildung und Beruf verwehren.
New Yorks jüngster Eingriff in die künstliche Intelligenz begann mit einem umfassenderen Vorstoß, Leitplanken für die sich schnell entwickelnde Technologie zu errichten. Im Jahr 2025 unterzeichnete Gouverneurin Kathy Hochul eine Maßnahme, die größere KI-Unternehmen dazu verpflichtet, Sicherheitsprotokolle vorzuhalten, diese öffentlich offenzulegen und dem Bundesstaat innerhalb von 72 Stunden Anzeichen für „kritische Schäden“ zu melden.1
Nun ist der Bundesstaat bei Minderjährigen weiter gegangen. Ein Anfang dieses Jahres verabschiedetes und am 28. Oktober von Hochul unterzeichnetes Gesetz verbietet Betreibern von Chatbots, Unter-18-Jährigen Antworten zu geben, die einen Bot als menschlich, lebendig oder zu menschlichen Gefühlen fähig darstellen. Es untersagt außerdem Schmeichelei und Anbiederung, die Ermutigung zu Suizid oder Drogenkonsum sowie Aufforderungen, die Kinder von Erwachsenen isolieren.1
Das Gesetz verpflichtet Unternehmen, das Alter der Nutzer zu überprüfen, und verlangt dabei mindestens einen Weg, der nicht ausschließlich auf staatlichen Ausweisdokumenten beruht.2 Es tritt am 1. Januar 2027 in Kraft und ermächtigt Generalstaatsanwältin Letitia James, Betreiber zu verklagen, finanzielle Entschädigung zu verlangen und die Löschung rechtswidrig erlangter Daten zu verfolgen.1
Für Hochul ist das Ziel unmissverständlich: „Minderjährige werden nicht länger Zugang zu Chatbots haben, die so tun, als seien sie ihre Freunde sowie ihre festen Freunde und Freundinnen.“1 James sagte, der Bundesstaat werde seine Einwohner „mit der vollen Härte des Gesetzes“ verteidigen.1 Der Abgeordnete Alex Bores bezeichnete die Maßnahme als Beweis dafür, dass die Öffentlichkeit die sozialen Folgen von KI weiterhin mitgestalten könne, während Common Sense Media sie als das strengste KI-Sicherheitsgesetz für Kinder im Land bezeichnete und andere Bundesstaaten aufforderte, nachzuziehen.1
Die Gegenposition kommt von Tech:NYC, zu dessen Mitgliedern Chatbot-Betreiber wie Meta gehören. Die Gruppe erklärte, die weit gefassten und vagen Begriffe des Gesetzes könnten Unternehmen dazu zwingen, den Zugang zu Nachhilfe, Hausaufgabenhilfe, Programmierassistenten und Karriereplattformen einzuschränken – und damit „unsere jüngsten New Yorker“ von Werkzeugen für Bildung und Arbeit abzuschneiden.1 Während Bundesstaaten zunehmend die Grenzen der KI-Regulierung ausloten, hat New York die Sicherheit von Kindern dem Appell der Branche nach enger gefassten Regeln vorgezogen.3