OpenAI gibt den jüngsten zulässigen ChatGPT-Nutzern einen eigenen Eingang und verspricht ein lernorientiertes Erlebnis mit strengeren Leitplanken. Doch der Start erfolgt in einer Phase wachsenden Drucks darauf, wie KI-Plattformen junge Menschen prägen – und während Kritiker darauf hinweisen, dass viele dieser Leitplanken nicht neu sind.

Am Dienstag hat OpenAI ChatGPT for Teens für Nutzer im Alter von 13 bis 17 Jahren eingeführt. Jeder, der dieses Alter angibt – oder den OpenAIs Altersvorhersagesystem auf unter 18 Jahre schätzt – wird in das Teen-Erlebnis geleitet; Kinder unter 13 bleiben weiterhin von dem Dienst ausgeschlossen.¹

Das Unternehmen sagt, das Produkt sei so gestaltet, dass KI weder zur Abkürzung noch zum Ersatz für menschliche Unterstützung wird. Der Lernmodus („Study Mode“) nutzt Eingabeaufforderungen und Schritt-für-Schritt-Hilfe, während neue „verantwortungsbewusste Hausaufgaben-Erinnerungen“ Versuche erkennen sollen, eine Aufgabe zu umgehen, und Schüler dazu anhalten sollen, sie durchzuarbeiten. „KI sollte das Lernen unterstützen, nicht abkürzen“, sagte OpenAI und fügte hinzu, dass Lehrkräfte die Kontrolle über die Nutzung im Unterricht behalten sollten.²

Das Paket macht zudem Jugendschutz zur Standardeinstellung: strengere Grenzen bei Themen wie Selbstverletzung, Gewalt, Essstörungen, gefährlichen Aktivitäten und explizitem Material; Pausenaufforderungen; Warnhinweise vor dem Hochladen sensibler Bilder; sowie Elternwerkzeuge einschließlich Ruhezeiten („Quiet Hours“) und eng zugeschnittener Sicherheitsbenachrichtigungen. OpenAI sagt, seine Regeln für unter 18-Jährige untersagen außerdem romantische Sprache, die Förderung emotionaler Abhängigkeit und Vorschläge, der Chatbot habe Gefühle oder Bewusstsein.²

Der zentrale Streitpunkt betrifft die Neuartigkeit, nicht die Richtung. OpenAI stellt die Teen-Version als nächste Stufe eines umfassenderen Sicherheitsprogramms dar, flankiert von einer Partnerschaft mit CodeAI, die Schüler dazu anregen soll, KI zu hinterfragen und zu verstehen. Unabhängige Berichte hingegen beschreiben sie als Konsolidierung früherer Arbeit: Die Altersvorhersage begann bereits Anfang dieses Jahres, während Elternkontrollen und der Lernmodus schon vor rund einem Jahr eingeführt wurden. Die neuesten Elemente sind vor allem Hausaufgaben-Erinnerungen, konfigurierbare Lernzeiten („Study Hours“) und zusätzliche Hinweise im Zusammenhang mit Essstörungen.¹

Damit bittet OpenAI Familien, ein vereinheitlichtes Teen-Produkt als bedeutendes Sicherheits-Upgrade zu betrachten, obwohl der entscheidende Test darin bestehen wird, ob die bestehenden Werkzeuge im Zusammenspiel funktionieren, wenn gefährdete Nutzer sie am dringendsten brauchen.