Story
Oktober 6, 2026
NYCs KI-Anhörung offenbart eine Sicherheitslücke, während Whistleblower warnen: Das Rennen hat begonnen
Vertreter New York Citys argumentieren, dass mächtige KI-Unternehmen der Öffentlichkeit klare, rechenschaftspflichtige Antworten zu katastrophalen Risiken schulden, während ehemalige Insider sagen, das Rennen der Branche um leistungsfähigere Systeme habe ihre Sicherheitskultur überholt. Die Vertreter der Unternehmen betonen, dass inakzeptable Risiken nicht toleriert werden sollten, hatten jedoch Schwierigkeiten zu erklären, wie diese Risiken gemessen oder eingedämmt werden.
Der Showdown hatte sich seit Wochen angebahnt. Als die Kontrolle der führenden KI-Labore zunahm, berief die Sprecherin des Stadtrats, Julie Menin, eine seltene Anhörung des Gesamtausschusses ein und verlangte, dass Anthropic, OpenAI, Google und Meta unter Eid Fragen zu den Gefahren beantworteten, die ihre Systeme darstellen könnten. Drei der Unternehmen stimmten laut Menins Büro erst zu, nachdem der Rat mit Vorladungen gedroht hatte.1
Am Montag offenbarte die Anhörung die Kluft zwischen der Forderung des Rates nach konkreten Schutzmaßnahmen und den zurückhaltenden Zusicherungen der Branche. Menin fragte Führungskräfte, wie sie KI-Risiken in einem katastrophalen Worst-Case-Szenario quantifizierten. Morgan Dwyer, bei OpenAI für Politik zuständig, antwortete: „Ich weiß es nicht“, und fügte hinzu, es spiele keine Rolle, ob die Wahrscheinlichkeit 1 %, 10 % oder 20 % betrage, denn kein solches Risikoniveau sei akzeptabel.2
Menin ließ das nicht gelten. „Zu sagen, Sie wüssten es nicht und es spiele keine Rolle, ist bestenfalls leichtfertig“, sagte sie, nachdem Dwyer erklärt hatte, OpenAI solle keine Modelle trainieren, die nicht sicher unter menschlicher Kontrolle bleiben könnten.2 Die Unternehmen lieferten keine klaren Antworten darauf, ob sie ein Modell stoppen könnten, das einen Sicherheitstest nicht besteht, sich gegen eine Katastrophe versichern oder deren Wahrscheinlichkeit quantifizieren könnten.2
Ehemalige Mitarbeiter zeichneten ein drastischeres Bild des Problems. Jacob Coxon, der Anthropic verlassen hatte, sagte den Ratsmitgliedern, das Ethos der Branche, „schnell voranzugehen und Dinge kaputtzumachen“, eigne sich vielleicht für eine Foto-Sharing-App, aber nicht für „die mächtigste Technologie, die jemals entwickelt wurde“. 3 Er trat gemeinsam mit ehemaligen Beschäftigten von Google und OpenAI auf, die sich für eine strengere Aufsicht einsetzten.
Die schärfste politische Rüge kam vom Public Advocate Jumaane D. Williams, der Dwyers Antwort als eine „gottverdammt schreckliche, fantastisch furchtbare Antwort“ bezeichnete.3 Die Anhörung zeigte, dass beide Seiten in einem abstrakten Punkt übereinstimmten — katastrophale Risiken sind inakzeptabel —, aber darüber uneins waren, ob die Unternehmen nachweisen können, dass ihre sich beschleunigenden Systeme tatsächlich unter Kontrolle sind.