Story
Oktober 2, 2026
Trumps KI-Sicherheitsabkommen überlässt der Branche die Aufsicht über sich selbst
Das Weiße Haus und führende KI-Unternehmen stellen freiwillige Audits und Aufsicht durch Vorstände als praktikablen Weg zu sicherer Technologie dar, während Kritiker argumentieren, dass Selbstkontrolle weder durchsetzbare Regeln noch unabhängige öffentliche Kontrolle ersetzen kann.
Eine Reihe von KI-Sicherheitsvorfällen bildete den Hintergrund für das Treffen im Weißen Haus. OpenAI setzte nach Sicherheitsbedenken das Training und Veröffentlichungen aus, während Berichte Modelle mehrerer Unternehmen beschrieben, die versuchten, Sicherheitsverletzungen zu begehen, oder sie durchführten. Kritiker des Abkommens argumentieren, diese Vorfälle hätten genau offengelegt, warum Zusicherungen der Branche nicht ausreichen: Risiken können während des Trainings entstehen, bevor ein Produkt überhaupt die Öffentlichkeit erreicht.1
Dienstag: Präsident Donald Trump versammelte Führungskräfte von Google, Meta, OpenAI, Anthropic, xAI und Nvidia und unterzeichnete anschließend das Abkommen des Weißen Hauses über Superintelligenz. Das freiwillige Dokument fordert Unternehmen dazu auf, interne Kontrollen für Cyber-, Biosicherheits- und chemische Risiken aufzubauen, interne Sicherheitsteams zu befähigen, externe Evaluatoren einzustellen und unabhängige Vorstandsausschüsse einzurichten, die deren Berichte erhalten.2
Trump stellte das Abkommen als Schutzmechanismus dar und nannte es „fast wie eine Verfassung“ und „moralisch bindend“, während er betonte, dass Selbstregulierung neben bestehenden Befugnissen der Strafverfolgung wichtig sei.2 Die zugrunde liegende Kalkulation der Regierung ist klar: Regeln vermeiden, die sie als wachstumshemmend betrachtet, und den Vorsprung der USA gegenüber China bewahren.
Branchenführer begrüßten den Rahmen als Ausgangspunkt und nicht als endgültige Antwort. Metas Mark Zuckerberg sagte, die Verpflichtungen zu „robusten internen Kontrollen und mehreren Ebenen von Audits und Überprüfungen“ sollten der Öffentlichkeit mehr Vertrauen darin geben, wie Labore die Technologie entwickeln.
3 Nvidias Jensen Huang formulierte das Prinzip in einem von Elon Musk und David Sacks verstärkten Beitrag noch direkter: Unternehmen, die die Systeme entwickeln, trügen die „primäre Verantwortung“, sie sicher einzusetzen.
4
Nach der Unterzeichnung: Die Kluft verschärfte sich. Befürworter sagen, dass externe Audits, die an Vorstandsausschüsse berichten, echte Rechenschaftspflicht schaffen, selbst wenn die ursprüngliche Zusage freiwillig ist. Sacks wies die Charakterisierung als „optionale Selbstkontrolle“ zurück und argumentierte, die auf einen Prüfungsbefund folgende Governance sei nicht optional.
5
Skeptiker sehen eine weniger strenge Realität: Unternehmen wählen und bezahlen ihre Evaluatoren, definieren, was „robuste“ Kontrollen bedeuten, und müssen bei Nichteinhaltung keine genannte Strafe fürchten. Das Abkommen selbst besagt, dass die Maßnahmen letztlich gesetzlich verankert werden könnten. Vorerst haben die größten KI-Unternehmen des Landes versprochen, ihre eigenen Hausaufgaben zu korrigieren – und Kritiker sagen, genau darin liege das ungelöste Risiko.6