In den Wochen vor dem Treffen im Weißen Haus hatte sich die Debatte über Sicherheit in der KI-Branche zugespitzt: Führende Manager, darunter Dario Amodei von Anthropic und Sam Altman von OpenAI, hatten zu größerer Vorsicht gemahnt, während Trump die Technologie als strategischen Wettlauf darstellte, den die Vereinigten Staaten nicht verlieren dürften. „Wir dürfen sie nicht ersticken“, sagte Trump und bezeichnete KI als eine Kraft, die größer sein werde als die Industrielle Revolution.¹

Der Gipfel am Dienstag machte aus dieser Philosophie Politik. Trump traf sich mit Führungskräften von Google, Meta, OpenAI, Anthropic, xAI und Nvidia, stellte seine bevorzugte Bezeichnung „Super Intelligence“ vor und sicherte sich eine freiwillige Vereinbarung des Weißen Hauses. Ihre vier Ebenen sehen interne Modellkontrollen, interne Risikoteams, unabhängige externe Prüfer und Vorstandsausschüsse vor, die die Ergebnisse überprüfen. Das Dokument lässt die Möglichkeit offen, dass diese Praktiken letztlich gesetzlich verankert werden könnten.²

Für Trump, Zuckerberg und Jens Huang von Nvidia ist die Vereinbarung ein Beweis dafür, dass Innovation und Sicherheit gemeinsam vorankommen können. Zuckerberg nannte die Verpflichtung zu „robusten internen Kontrollen und mehreren Ebenen von Audits und Überprüfungen“ einen „bedeutenden positiven Schritt“, der das Vertrauen in das stärken sollte, was die Labore entwickeln.Mark Zuckerberg (finkd)³ Er betonte zudem, dass der Pakt „ein Anfang“ sei und nicht das letzte Wort zur KI-Governance.⁴

Doch der zentrale Kompromiss der Vereinbarung ist zugleich ihre Schwachstelle: Die Unternehmen wählen die Schutzmaßnahmen, beauftragen die Prüfer und erhalten die Ergebnisse über ihre eigenen Vorstände. Trump bezeichnete die Vereinbarung als „moralisch bindend“, während Kritiker darauf hinweisen, dass sie keine klaren Sanktionen für Unternehmen vorsieht, die die Vorgaben nicht erfüllen.⁵

Diese Lücke hat die Kluft vergrößert, statt sie zu schließen. Der Wagniskapitalinvestor Bradley Tusk merkte an, dass viele derselben Vorstandschefs kürzlich erklärt hätten, KI müsse reguliert werden, teilweise weil einheitliche Regeln gleiche Wettbewerbsbedingungen schaffen würden. Die Reaktion von Senator Mark Warner fiel deutlicher aus: KI umzubenennen und ihre Entwickler zur Selbstregulierung aufzufordern, gehe die Risiken zunehmend leistungsfähiger Systeme nicht an.⁶

Das Ergebnis ist ein bewusst zurückhaltender Waffenstillstand: Branchenführer begrüßen einen gemeinsamen Mindeststandard; Sicherheitsbefürworter sehen ein Versprechen, das von den Unternehmen, die es eigentlich beschränken soll, umgeschrieben oder ignoriert werden kann.