Story
Oktober 6, 2026
KI-Whistleblower nehmen Tech-Giganten im Rathaus in die Pflicht
Ehemalige KI-Mitarbeiter argumentierten, dass die auf Geschwindigkeit ausgerichtete Kultur der Branche für Technologie mit potenziell katastrophalen Folgen ungeeignet sei, während die Unternehmen erklärten, sie nähmen Sicherheit ernst, auch wenn ihre Vertreter Schwierigkeiten hatten, das Ausmaß des Risikos zu definieren.
New York Citys Konfrontation mit der KI-Branche hatte sich monatelang aufgebaut, als die Sorgen über zunehmend leistungsfähige Modelle aus Forschungskreisen in die Politik vordrangen. Im September warnten Branchenforscher, dass führende Labore Systeme verfolgen könnten, die zu katastrophalen Schäden bis hin zum Aussterben der Menschheit fähig seien, während der ehemalige Anthropic-Mitarbeiter Jacob Coxon sagte, Unternehmen würden „mit unserem Leben spielen“.1
Dieser Druck erreichte am Montag das Rathaus, als der Stadtrat eine seltene Anhörung des gesamten Ausschusses einberief. Es wurde erwartet, dass alle 51 Mitglieder Anthropic, OpenAI, Google und Meta wegen der Gefahren von KI und möglicher Gesetzgebung unter die Lupe nehmen würden. Sprecherin Julie Menin sagte, die Firmen schuldeten der Öffentlichkeit Antworten unter Eid; Anthropic, OpenAI und Google erklärten sich erst zur Teilnahme bereit, nachdem der Stadtrat die Möglichkeit von Vorladungen ins Spiel gebracht hatte.2
Coxon, dem sich ehemalige Mitarbeiter von Google und OpenAI anschlossen, stellte den Streit als Warnung vor der Unternehmenskultur dar. „Schnell handeln, Dinge kaputtmachen“ sei bei einer Foto-Sharing-App vielleicht tolerierbar, sagte er den Gesetzgebern, „für die mächtigste jemals gebaute Technologie funktioniert das nicht.“3 Ihr Argument war nicht einfach, dass KI Fehler machen kann, sondern dass das kommerzielle Rennen die Schutzmaßnahmen überholt, die ihre schwerwiegendsten Risiken eindämmen sollen.
Die Unternehmen kamen, um ihre Praktiken zu verteidigen, doch die Anhörung legte die Kluft zwischen allgemeinen Zusagen und messbaren Garantien offen. Auf die Frage, eine Zahl für das KI-Risiko zu nennen, sagte die OpenAI-Policy-Führungskraft Morgan Dwyer, sie wisse es nicht, hielt jedoch daran fest, dass für das Unternehmen kein Risikoniveau akzeptabel sei. Der Public Advocate Jumaane D. Williams nannte das eine „gottesfürchterliche, fantastisch schreckliche Antwort“.3
Die gegensätzlichen Darstellungen teilten einen Punkt: Fortgeschrittene KI steht für mehr auf dem Spiel als gewöhnliche Verbrauchertechnologie. Sie gingen jedoch scharf auseinander bei der Frage, ob unternehmensgeführte Sicherheitsarbeit Schritt halten kann – oder ob Gesetzgeber die Angelegenheit erzwingen müssen.