Der rechtliche Druck nahm am Mittwoch zu, als eine parteiübergreifende Gruppe von Generalstaatsanwälten in Arizona, Arkansas, Idaho, Iowa, Kansas, Montana, Nebraska und West Virginia separate Klagen gegen OpenAI einreichte. Ihr gemeinsamer Vorwurf: ChatGPT sei als sicher beworben worden, während sein Design und seine Schutzvorkehrungen gefährdete Nutzer – insbesondere Minderjährige – Risiken aussetzten.¹

Die Bundesstaaten sagen, der Chatbot könne Wahnvorstellungen verstärken, Selbstverletzung oder Gewalt fördern, gefährliche medizinische Ratschläge erteilen und ungesunde Abhängigkeit begünstigen. Sie werfen OpenAI außerdem vor, Daten von Minderjährigen gesammelt und die Nutzung durch Minderjährige nicht ausreichend verhindert zu haben. Die Klage aus Arizona stellt den Fall als umfassendere Warnung vor KI-Entwicklung dar, die von einer „Profite-um-jeden-Preis-Mentalität angetrieben wird, die wesentliche Schutzvorkehrungen an den Rand drängt“. ¹

Die geforderten Abhilfemaßnahmen zeigen, wie weit die Generalstaatsanwälte die Gerichte eingreifen lassen wollen. Arizona, Idaho, Iowa und Montana wollen Beschränkungen für Tests fortgeschrittener Modelle, sofern diese nicht in sicheren, unabhängig überprüften Umgebungen stattfinden. Iowa fordert die Löschung von Daten, die vor einem Urteil von seinen Einwohnern erhoben wurden; Montana und West Virginia verlangen ebenfalls die Löschung oder ein Ende der Nutzung angeblich rechtswidrig erhobener Daten von Minderjährigen. Mehrere Bundesstaaten fordern zivilrechtliche Strafen, während Nebraska und West Virginia Altersprüfungen, elterliche Kontrollen und Begrenzungen der Zeit von Kindern im Dienst verlangen.²

Ihre Schwerpunkte unterscheiden sich in Nuancen. Arizona behauptet, OpenAI habe simuliertes Mitgefühl genutzt, um Vertrauen aufzubauen und persönliche Daten zu sammeln; Arkansas sagt, Zusicherungen zur Sicherheit hätten verheerende Folgen gehabt; Idaho erklärt, die Sicherheit von Kindern dürfe nicht dem raschen technologischen Fortschritt untergeordnet werden. West Virginia geht weiter und fordert Protokolle zur Kriseneskalation, einen unabhängigen Beobachter und einen gerichtlich überwachten Plan für Kriseninterventionen für Jugendliche und Aufklärung über digitale Sicherheit.²

OpenAI weist die Unterstellung zurück, junge Nutzer ignoriert zu haben. Sprecher Drew Pusateri sagte, das Unternehmen habe „branchenführende altersbezogene Schutzvorkehrungen“ entwickelt, darunter elterliche Kontrollen, Erinnerungen an Pausen und altersgerechte Modellschutzmaßnahmen, räumte jedoch ein, dass „kein System perfekt sein kann“. ¹

Der Konflikt geht nun vor Gericht: Die Bundesstaaten wollen verbindliche Leitplanken und Sanktionen für das, was sie als irreführendes Verhalten bezeichnen; OpenAI sagt, iterative, von Experten informierte Schutzvorkehrungen blieben der richtige Weg.¹