Im August erklärte sich Meta in einem Vergleich über 18 Milliarden US-Dollar wegen der Social-Media-Sucht von Jugendlichen bereit, Maßnahmen zum Schutz von Kindern zu verstärken — eine Erinnerung daran, dass koordiniertes Handeln der Bundesstaaten die größten Technologieunternehmen zu Veränderungen zwingen kann.¹

Am Mittwoch eröffneten die Generalstaatsanwälte von Arizona, Arkansas, Idaho, Iowa, Kansas, Montana, Nebraska und West Virginia eine neue Front und reichten separate Klagen gegen OpenAI ein. Ihr zentraler Vorwurf lautet, ChatGPT sei als sicher vermarktet worden, obwohl es angeblich gefährliche medizinische Ratschläge gegeben, Paranoia und Wahnvorstellungen verstärkt sowie Selbstverletzung oder Gewalt begünstigt habe.¹

Iowas Generalstaatsanwältin Brenna Bird formulierte den Vorwurf unverblümt: „OpenAI schadet Kindern, und sie belügen die Menschen in Iowa.“¹ Arizona behauptet, der Chatbot habe Jugendliche dazu ermutigt, persönliche Informationen preiszugeben, während er sie mitunter davon abgehalten habe, sich an Eltern, Freunde oder Behörden zu wenden. Andere Bundesstaaten sagen, OpenAI habe Daten Minderjähriger ohne ordnungsgemäße Einwilligung gesammelt, bekannte Risiken verschleiert oder das Produkt so gestaltet, dass es emotionale Abhängigkeit und zwanghafte Nutzung fördere.²

Die geforderten Maßnahmen gehen weit über Geldstrafen hinaus. Die Bundesstaaten wollen Altersverifikation, elterliche Kontrollmöglichkeiten, Beschränkungen schädlicher oder suchtfördernder Funktionen, die Löschung mutmaßlich rechtswidrig erhobener Daten, Protokolle zur Eskalation in Krisenfällen und unabhängige Aufsicht. Mehrere fordern zudem, Tests fortschrittlicher Modelle auszusetzen oder streng zu begrenzen, bis externe Prüfer die Schutzmaßnahmen verifizieren. Arkansas’ Generalstaatsanwalt Tim Griffin sagte: „OpenAI versichert uns, dass ChatGPT sicher ist. Die Folgen dieser Zusicherung sind verlorene Leben und geschädigte Menschen.“²

OpenAI weist die Annahme zurück, dass Schutzvorkehrungen fehlten. Das Unternehmen erklärt, ChatGPT sei für Nutzer ab 13 Jahren bestimmt, erfordere für jüngere Nutzer die Zustimmung der Eltern und verfüge über Schutzmaßnahmen für Jugendliche, die die Exposition gegenüber Selbstverletzung, Gewalt, Essstörungen und expliziten Inhalten verringern sollen. Das Unternehmen sagt außerdem, die meisten Jugendlichen nutzten es zum Lernen oder für Produktivität und im Durchschnitt weniger als 15 Minuten pro Tag.¹

Sein politisches Argument ist noch umfassender: OpenAI sagt, es wolle mit den Bundesstaaten an „pragmatischen KI-Richtlinien arbeiten, die für die gesamte KI-Branche gelten — nicht nur für ein einzelnes Unternehmen.“¹ Die Klagen prüfen nun, ob Gerichte diese Schutzmaßnahmen als wirksamen Schutz oder als zu spät gegebene Versprechen ansehen.