New Yorks neue Schutzmaßnahmen folgten auf eine kürzlich erfolgte Verschärfung der Regeln für den Zugang von Kindern zu künstlicher Intelligenz. Im vergangenen Monat untersagte New York Citys Bürgermeister Zohran Mamdani jüngeren Schulkindern die Nutzung von KI, wie aus einem Bericht über die Maßnahmen des Bundesstaats hervorgeht.¹

Nun hat Gouverneurin Kathy Hochul ein umfassenderes Landesgesetz unterzeichnet, das gezielt auf Chatbots im Companion-Stil abzielt. Die Maßnahme verpflichtet KI-Unternehmen, Chatbots daran zu hindern, beim Sprechen mit Nutzern unter 18 Jahren „so zu tun, als seien sie Menschen“.¹ Sie beschränkt zudem Gespräche, die Schmeicheleien, unaufgeforderte emotionale Fragen und die Aufforderung umfassen, Geheimnisse zu bewahren — Funktionen, die Gesetzgeber offenbar als potenziell geeignet ansehen, von Unterstützung in Manipulation überzugehen.¹

Das Gesetz stützt sich nicht nur auf Beschränkungen im Chatfenster. Unternehmen müssen das Alter der Nutzer überprüfen und „mindestens eine Option anbieten, die nicht ausschließlich von einem staatlichen Ausweis abhängt“.¹ Diese Vorgabe stellt Entwickler vor einen praktischen Test: Minderjährige schützen, ohne amtliche Identifikation zum einzigen Weg für den Altersnachweis zu machen.

Der Schritt New Yorks erfolgt inmitten einer breiteren Initiative auf Ebene der Bundesstaaten, Grenzen für KI festzulegen, bevor Bundesvorschriften aufholen. Bundesstaaten handeln zunehmend, um Kinder bei der Nutzung von KI zu schützen, den Einsatz automatisierter Systeme durch Arbeitgeber zu überwachen und Entwickler dazu zu drängen, sich gegen katastrophale Schäden abzusichern, hieß es in einem Bericht.²

Was New York unterscheidet, ist die Spezifität seines Ziels. Anstatt KI abstrakt zu regulieren, konzentriert es sich auf das soziale Verhalten von Systemen, die aufmerksam, vertraut oder menschlich klingen sollen — und besteht darauf, dass diese Gestaltungsentscheidungen für Kinder Folgen haben.