Story
Oktober 1, 2026
Trumps KI-Sicherheitsabkommen überlässt den Unternehmen die Selbstkontrolle
Trump und führende KI-Unternehmen stellen das Abkommen im Weißen Haus als eine praktische erste Sicherheitsebene dar, die Innovation schützt; Kritiker sehen in demselben Dokument eine nicht durchsetzbare Übergabe der öffentlichen Aufsicht an die Unternehmen, die um den Aufbau dieser Technologie wetteifern.
In den Tagen vor dem Treffen im Weißen Haus zeichnete sich bereits eine Spaltung in der Sicherheitsdebatte der Branche ab. OpenAI hatte das Training und die Veröffentlichung eines fortgeschrittenen Modells ausgesetzt, nachdem es seine Sicherheitsstandards nicht erfüllt hatte, während Anthropic-Chef Dario Amodei führende Labore dazu aufgefordert hatte, langsamer vorzugehen. Präsident Donald Trump vertrat die gegenteilige Ansicht: Die Vereinigten Staaten könnten es sich nicht leisten, eine Technologie zu bremsen, die seiner Aussage nach „größer als die industrielle Revolution“ sein werde.1
Das Treffen am Dienstag brachte Führungskräfte, darunter Amodei, Metas Mark Zuckerberg, Googles Sundar Pichai, OpenAIs Greg Brockman, xAIs Elon Musk und Nvidias Jensen Huang, ins Weiße Haus. Trump warb außerdem für seine bevorzugte Umbenennung – „Superintelligenz“ oder SI – und kündigte ein freiwilliges Branchenabkommen an, das er als „moralisch bindend“ bezeichnete.2
Das Abkommen verlegt die erste Verteidigungslinie in die Unternehmen selbst: die Überwachung von Spitzenmodellen auf Cyber-, biologische und chemische Risiken; ein internes Team zur Überprüfung dieser Kontrollen; externe Prüfer; sowie ein Vorstandsausschuss, der die Ergebnisse erhält. Die Unterzeichner versprechen zudem, sich regelmäßig zu treffen, um Sicherheitsstandards und bewährte Verfahren festzulegen. Das Dokument räumt ein, dass diese Schritte letztlich gesetzlich verankert werden könnten, schreibt dies jedoch nicht vor.2
Für Trump und die Unternehmensunterstützer des Abkommens ist diese Flexibilität der entscheidende Punkt. Trump sagte, Unternehmen „müssen sich selbst kontrollieren“, während Zuckerberg die branchenweite Verpflichtung zu internen Kontrollen und gestaffelten Audits als einen „bedeutenden positiven Schritt“ bezeichnete, der öffentliches Vertrauen schaffen solle.
3 Er nannte das Abkommen zudem einen Anfang und nicht das letzte Wort zur KI-Sicherheit.4
Skeptiker argumentieren, dass die Struktur lediglich den Status quo formalisiere. Die Unternehmen wählen und bezahlen die Prüfer, definieren, was es bedeutet, wenn Systeme „wie vorgesehen“ funktionieren, und müssen keine festgelegte Strafe befürchten, wenn sie die Zusage nicht einhalten. Eine Kritik bezeichnete die Vereinbarung als Zustimmung des Weißen Hauses zur „Selbstregulierung“, die weder öffentliche Transparenz noch unabhängige Durchsetzung biete.5
Diese Lücke bildet nun die politische Bruchlinie: Branchenführer loben eine gemeinsame Grundlage, ohne das Rennen der USA gegen China zu verlangsamen; Kritiker und Gesetzgeber sagen, dass die Unternehmen, die selbst davor warnen, dass Schutzvorkehrungen hinterherhinken, nicht ihre eigenen Regeln schreiben – und bewerten – dürfen.4