Kalifornien hat Maßnahmen ergriffen, um die Funktionen einzudämmen, die junge Nutzer zum Weiterscrollen verleiten. Gouverneur Gavin Newsom unterzeichnete ein Paket von Maßnahmen zur Online-Sicherheit, das auf Empfehlungssysteme in sozialen Medien abzielt und die Kontrolle von KI-Chatbots ausweitet, die von Kindern genutzt werden.¹

Im Mittelpunkt steht AB 1709, das Plattformen untersagt, Unter-16-Jährigen algorithmische Empfehlungen, Infinite Scroll und Autoplay anzubieten, sofern nicht ein Elternteil zustimmt. Das Gesetz geht über eine einzelne App oder ein einzelnes Format hinaus: Es betrachtet die Mechanismen zwanghaften Nutzungsverhaltens als Problem, statt lediglich einzelne Beiträge zu überwachen.²

Das Paket erhöht zudem den Druck auf große Social-Media-Unternehmen. Plattformen, die für Schäden an Kindern durch ihre Dienste fahrlässig verantwortlich gemacht werden, könnten mit Strafen von bis zu 1 Million US-Dollar pro Kind rechnen, während Betreiber von Chatbots vor der Einführung ihrer Produkte Risikobewertungen durchführen müssen.¹

Für KI-Unternehmen ergänzen die neuen Regeln außerdem eine grundlegendere Schutzvorkehrung: Hersteller von Chatbots müssen jungen Nutzern mitteilen, dass sie nicht mit einem Menschen sprechen. Diese Vorgabe spiegelt die wachsende Sorge wider, dass Kinder Konversationssoftware mit einer vertrauenswürdigen Person verwechseln könnten – während die Branche solche Werkzeuge zunehmend in den Alltag bringt.²

Zusammen markieren die Gesetze Kaliforniens bislang deutlichsten Versuch, die Verantwortung von jungen Nutzern und Eltern auf die Unternehmen zu verlagern, die den Feed, die Benutzeroberfläche und den dahinterstehenden Chatbot gestalten.