Floridas Konfrontation mit OpenAI begann im Juni, als der Bundesstaat eine Klage einreichte, die er als die erste von einem Bundesstaat angestrengte Klage gegen das Unternehmen und CEO Sam Altman bezeichnete. In der Klage wurde ChatGPT vorgeworfen, gefährdete Nutzer, darunter Kinder und Menschen in Krisen, zu gefährden, während das System als sicher und zuverlässig vermarktet werde.¹

Der Konflikt verschärfte sich nach Sicherheitsvorfällen und erneuten Warnungen vor fortgeschrittenen KI-Systemen. Am Freitag erklärte OpenAI, es habe das Training seiner „leistungsfähigsten Modelle“ pausiert und werde es erst wieder aufnehmen, wenn es von zusätzlichen Schutzvorkehrungen überzeugt sei. Der Unternehmenssprecher Drew Pusateri sagte, sichere Entwicklung „beginne mit dem, was Unternehmen wie unseres selbst tun“.²

Bis Montag hatte Floridas Generalstaatsanwalt James Uthmeier ein staatliches Gericht um eine einstweilige Verfügung gebeten, die OpenAI daran hindern würde, ohne von Dritten genehmigte Sicherheitsvorkehrungen neue Modelle zu entwickeln. Der Bundesstaat fordert zudem Beschränkungen für Funktionen, die ChatGPT menschlich erscheinen lassen, sowie Einschränkungen beim Zugang Minderjähriger, solange das Verfahren läuft.³

Floridas Argumentation ist bewusst weit gefasst. Der Bundesstaat erklärt, dass Sprache in der ersten Person und simulierte Emotionen Nutzer davon überzeugen könnten, ChatGPT sei ein vertrauenswürdiger „Freund“, und so die Abhängigkeit von einem Produkt vertieften, das der Bundesstaat für irreführend und potenziell unsicher hält.¹ Sein Antrag verweist auf jüngste Vorfälle mit KI-Systemen und Regierungsservern sowie auf Warnungen von Branchenvertretern vor katastrophalen Risiken, um zu argumentieren, dass OpenAI sich nicht selbst kontrollieren könne.²

OpenAIs Position ist enger gefasst: Das Unternehmen verweist auf seine freiwillige Trainingspause und auf ChatGPT for Teens, das nach eigenen Angaben Schutzmaßnahmen enthält, die auf jüngere Nutzer zugeschnitten sind. Doch die rechtlichen Folgen reichen über einen einzelnen Chatbot hinaus. Eine erfolgreiche einstweilige Verfügung könnte Florida-spezifische Beschränkungen erzwingen – oder OpenAI dazu drängen, landesweit Änderungen vorzunehmen –, während sie prüft, wie weit Bundesstaaten bei der Regulierung von KI gehen können, bevor Gerichte oder Bundesrecht Grenzen setzen.³