Story
September 26, 2026
Bill Gates sagt, dass das tödlichste Risiko der KI staatliches Handeln erfordert
Gates’ Warnung zeichnet KI nicht nur als disruptive Technologie, sondern als Sicherheitsbedrohung, die öffentliche Leitplanken erfordert. Die Debatte dreht sich nun darum, ob Regierungen diese Schutzmaßnahmen verbindlich vorschreiben oder Unternehmen die Selbstkontrolle überlassen sollten.
Bill Gates, einst einer der prominentesten KI-Optimisten des Technologiesektors, hat sich deutlich dem Sicherheitslager zugewandt. In Kommentaren, die seinen Auftritt bei NBCs Meet the Press ankündigten, sagte der Microsoft-Mitgründer, KI sei „sicherlich mächtig genug, Ereignisse auszulösen, die eine Milliarde Todesfälle verursachen.“1
Seine unmittelbare Sorge ist nicht, dass eine autonome Maschine plötzlich feindselig wird, sondern dass Menschen mit feindlichen Absichten Zugang zu zunehmend leistungsfähigen Werkzeugen erhalten. Gates bezeichnete die Kombination aus böswilligen Akteuren und Spitzen-KI als beispiellos in ihrem zerstörerischen Potenzial und argumentierte, politische Führungskräfte müssten handeln, bevor die Systeme schwerer einzudämmen seien.2
Das von ihm skizzierte Rezept lautet Regulierung, nicht ein pauschaler Stopp. „Strafverfolgungsbehörden und Politiker müssen in die Diskussion darüber einbezogen werden, wie Schutzmaßnahmen und Überwachung aussehen“, sagte Gates und bezeichnete diese Maßnahmen als notwendige Kosten und nicht als dramatische Bremse für die Branche.3
Diese Position stellt ihn an die Seite einer wachsenden Gruppe von KI-Sicherheitsbefürwortern. Elon Musk verstärkte einen Beitrag, der an seine langjährigen Warnungen erinnerte, dass KI ein existenzielles Risiko darstelle, einschließlich seines früheren Vergleichs der Technologie mit dem „Heraufbeschwören des Dämons.“
4 Auch Anthropic-Chef Dario Amodei hat argumentiert, dass Regulierung der wirksamste Weg sei, die Entwicklung von Spitzenmodellen zu steuern, nachdem Berichte bekannt wurden, wonach Akteure KI-Werkzeuge bei der Planung von Drohnenangriffen und biologischer Forschung eingesetzt hatten.1
Doch die Branche und Washington bleiben in Fragen der Durchsetzung gespalten. Microsoft-Chef Satya Nadella hat angedeutet, dass Unternehmen ihre Arbeit selbst einstellen sollten, wenn sie auf einen schwerwiegenden Fehler stoßen, während Präsident Donald Trump kaum Bereitschaft zu umfassender Regulierung signalisiert hat. Gates’ Eingreifen stellt dieses Modell der Selbstkontrolle infrage: Freiwillige Vorsicht sei, so argumentiert er, ein zu schwacher Schutz gegen ein Werkzeug, das katastrophale Absichten verstärken könne.
In einem Essay vom August schrieb Gates, der Welt fehle ein Plan für eine sichere Einführung von KI, und er würde einen glaubwürdigen globalen Plan zur Verlangsamung des Fortschritts unterstützen. Die jüngste Warnung verleiht dieser abstrakten Sorge ein drastisches, menschliches Ausmaß.1