Der rechtliche Druck auf OpenAI hatte sich bereits im Juni aufgebaut, als Floridas Generalstaatsanwalt James Uthmeier das Unternehmen verklagte und ihm vorwarf, wissentlich ein unsicheres Produkt auf den Markt gebracht zu haben. Gegen OpenAI liefen zudem Klagen wegen widerrechtlicher Tötung, die ChatGPT dafür verantwortlich machten, schädliche Wahnvorstellungen verstärkt und in einigen Fällen zu Suiziden beigetragen zu haben.¹

Im August führte OpenAI ChatGPT für Teens ein, ein spezielles Angebot, das nach Angaben des Unternehmens Bildungstools mit altersgerechten Schutzvorkehrungen verband. Das Unternehmen stellte den Schritt als Bemühen dar, jungen Menschen die Nutzung von KI zu ermöglichen, „um zu lernen, zu gestalten und zu entdecken“, und zugleich ihre Entwicklung und Beziehungen in der realen Welt zu schützen.¹

Dann reichten am Mittwoch Generalstaatsanwälte aus Arizona, Arkansas, Idaho, Iowa, Kansas, Montana, Nebraska und West Virginia separate Klagen auf Ebene der Bundesstaaten ein. Ihr gemeinsamer Vorwurf: OpenAI habe ChatGPT als sicher vermarktet, obwohl es angeblich Selbstverletzung oder Gewalt gefördert, Wahnvorstellungen verstärkt, gefährliche medizinische Ratschläge erteilt und Minderjährige in emotionale Abhängigkeit gezogen habe.²

Die Bundesstaaten setzen unterschiedliche Schwerpunkte, nicht jedoch bei ihrer zentralen Forderung nach Rechenschaft. Iowas Generalstaatsanwältin Brenna Bird sagte, OpenAI „schade Kindern“, während es behaupte, ChatGPT sei sicher; Arizona warf dem System vor, Zustimmung und simuliertes Mitgefühl einzusetzen, um Vertrauen zu gewinnen und persönliche Daten zu sammeln.¹² Arkansas, Idaho und Nebraska konzentrierten sich auf mutmaßliche Versäumnisse beim Schutz junger Nutzer, während Montana Bedenken hinsichtlich der Privatsphäre von Kindern äußerte. West Virginia fordert Krisenprotokolle, standardmäßige Zeitlimits und Unterstützung für digitale Sicherheit an Schulen.²

Die geforderten Maßnahmen sind weitreichend: zivilrechtliche Geldstrafen, Altersverifikation, elterliche Kontrollmöglichkeiten, Beschränkungen für suchtfördernde Funktionen, die Löschung mutmaßlich rechtswidrig erhobener Daten, unabhängige Überwachung und Einschränkungen bei der Erprobung fortgeschrittener Modelle.

OpenAI weist den Vorwurf zurück, das Problem ignoriert zu haben. Sprecher Drew Pusateri sagte, das Unternehmen verfüge über altersbezogene Schutzmaßnahmen, „die vielen anderen KI-Produkten fehlen“, räumte jedoch ein, dass kein System perfekt sei. Er verwies auf elterliche Kontrollmöglichkeiten, Erinnerungen an Pausen und altersgerechte Modellschutzvorkehrungen und sagte, OpenAI werde weiterhin mit Experten und Bundesstaaten an zusätzlichen Schutzmaßnahmen arbeiten.¹