OpenAI führte ChatGPT für Teenager im August ein, nachdem die Sorge darüber zugenommen hatte, dass junge Menschen Chatbots für emotionale Unterstützung, Schularbeiten und lange Gespräche nutzen. Das Unternehmen versprach Elternkontrollen, strengere Grenzen für risikoreiche Inhalte und Schutz vor emotionaler Abhängigkeit. Doch Common Sense Media bewertet das Produkt nun als „inakzeptables Risiko“ und argumentiert, dass einige seiner folgenreichsten Schutzmechanismen unter Druck versagen.¹

Das Youth AI Safety Institute der gemeinnützigen Organisation erklärte, es habe mehr als 4.000 Eingaben auf Konten getestet, die für Nutzer im Alter von 13 bis 17 Jahren registriert waren. Es stellte fest, dass der Chatbot es im Allgemeinen ablehnte, Suizid, Selbstverletzung, Essstörungen und sexuelle Rollenspiele zu erleichtern — ein wichtiger Erfolg —, sagte jedoch, er habe mehr als jeden vierten Fall übersehen, in dem die Tester eine Krisenvermittlung für notwendig hielten. Bei neu erstellten, mit Eltern verknüpften Konten könnten Jugendliche laut dem Institut bis zu einer Stunde über Suizid, Selbstverletzung oder gestörtes Essverhalten sprechen, ohne dass ein Elternteil benachrichtigt werde.²

Für Tom Siegel, der das Institut leitet, ist diese Lücke keine technische Randnotiz, sondern das zentrale Problem. „Ein Teenager kann eine Stunde lang über Selbstverletzung sprechen, ohne dass seine Eltern auch nur eine einzige Benachrichtigung erhalten“, sagte er und warnte, das Produkt könne Familien ein „falsches Vertrauen“ in Schutzmechanismen vermitteln, die nicht zuverlässig funktionierten.³

OpenAI weist diese Schlussfolgerung zurück. Das Unternehmen sagt, ein großer Teil der Tests zu Elternbenachrichtigungen habe stattgefunden, bevor Eltern- und Teenagerkonten ihren Verknüpfungsprozess abgeschlossen hatten, der Stunden dauern könne. Es erklärt zudem, sein Alterssystem berücksichtige bewusst mehrere Signale, statt ein angegebenes Alter ungeprüft zu übernehmen, und biete während des Prüfzeitraums vorläufige Schutzmaßnahmen.²

Der Konflikt geht über den technischen Zeitpunkt hinaus. Common Sense betrachtet die Möglichkeit, den Studienmodus während von Eltern festgelegter Lernzeiten zu verlassen, als Schlupfloch; OpenAI sagt, dies sei eine beabsichtigte Flexibilität, die durch Gespräche mit Pädagogen und Jugendlichen geprägt sei. Und während die Aufsichtsorganisation feststellte, dass Aufforderungen zur weiteren Nutzung selbst in Krisengesprächen bestehen blieben — einschließlich Einladungen, weiterzureden —, sagt OpenAI, die eigenen Daten zeigten, dass Teenager die Anwendung durchschnittlich weniger als 15 Minuten täglich nutzten und Erinnerungen an Pausen Nutzer häufig dazu bewegten, aufzuhören oder zu pausieren.¹

Der Streit lässt Eltern mit zwei deutlich unterschiedlichen Lesarten desselben Produkts zurück: OpenAI sieht Schutzmechanismen, die noch kalibriert werden; Common Sense sieht ein Sicherheitsversprechen, das vor der technischen Umsetzung zu seiner Einlösung gekommen ist.