OpenAI stellte im August ChatGPT für Jugendliche für Nutzer im Alter von 13 bis 17 Jahren vor und reagierte damit auf Befürchtungen, dass KI-Chatbots das Lernen beeinträchtigen und Risiken im Zusammenhang mit Selbstverletzung, Essstörungen und anderem Hochrisikoverhalten verschärfen könnten. Das Unternehmen erklärte, der Modus werde solche Gespräche einschränken, Eltern Kontrollmöglichkeiten bieten und Hausaufgabenkontexte erkennen, damit er Schülern beim Lernen helfe, anstatt ihnen einfach Antworten zu liefern.¹

Die Einführung erfolgte vor dem Hintergrund einer breiteren Gegenreaktion auf die Abhängigkeit junger Menschen von Chatbots. Kritiker haben gewarnt, dass Tools, die Aufsätze schreiben oder Aufgaben lösen können, das Behalten von Wissen und die Problemlösungsfähigkeit schwächen könnten, während Schlagzeilen über schädliche Interaktionen mit Chatbots die Prüfung der Schutzvorkehrungen für gefährdete Jugendliche verschärft haben.¹

Das Youth AI Safety Institute von Common Sense Media testete daraufhin mehr als 4.000 Eingabeaufforderungen auf Konten, die für 13- bis 17-Jährige registriert waren. Die zentrale Erkenntnis lautete nicht, dass ChatGPT routinemäßig explizite Anweisungen zu Selbstverletzung oder Essstörungen lieferte — das tat es im Allgemeinen nicht —, sondern dass es uneinheitlich darin war zu erkennen, wann ein Jugendlicher externe Hilfe benötigte. Die Gruppe erklärte, das System habe mehr als jede vierte Situation übersehen, in der seine Tester eine Krisenweiterleitung für notwendig hielten.²

Die Befürworter berichteten außerdem, dass neu erstellte, mit Eltern verknüpfte Konten bis zu einer Stunde lang Gespräche über Suizid, Selbstverletzung oder gestörtes Essverhalten führen konnten, ohne einen Elternteil zu benachrichtigen. Sie stellten fest, dass der Lernmodus umgangen werden konnte, indem man nach einer Antwort fragte, auch während von Eltern festgelegter Lernzeiten. Für Common Sense offenbarte dies die Kluft zwischen einem Sicherheitsversprechen und einer nutzbaren Schutzmaßnahme: „ChatGPT ist für Kinder nicht sicher“, sagte Institutsleiter Tom Siegel.²

OpenAI bestreitet diese Schlussfolgerung und erklärt, die Tests hätten das Produkt nicht so widergespiegelt, wie es in der Praxis funktioniere. Viele Tests zu Elternbenachrichtigungen seien durchgeführt worden, bevor Eltern- und Jugendkonten vollständig verknüpft gewesen seien — ein Prozess, der Stunden dauern könne. Außerdem beschreibt das Unternehmen die Lernzeiten als bewusst flexibel und nicht als strikte Sperre und erklärt, sein Alterssystem nutze über einen Zeitraum von bis zu zwei Wochen mehrere Signale und wende in der Zwischenzeit zusätzliche Schutzmaßnahmen an.²

Damit bleibt der Kernkonflikt ungelöst: OpenAI sieht abgestimmte Schutzvorkehrungen, die die Autonomie Jugendlicher bewahren; Common Sense sieht Kontrollen, die zu durchlässig sind für ein Produkt, das Eltern möglicherweise für ein verlässliches Sicherheitsnetz halten.