Der Vorstoß begann im Juli, als Google-DeepMind-Chef Demis Hassabis eine von den USA geführte KI-„Normungsstelle“ vorschlug — eine öffentlich-private oder selbstregulierende Vereinbarung unter bundesstaatlicher Aufsicht. Die Idee war, konkurrierenden Spitzenlabors einen gemeinsamen Mechanismus an die Hand zu geben, um Risiken zu begegnen, die keines von ihnen glaubwürdig allein bewältigen kann.¹

Bis Samstag hatte Anthropic-Chef Dario Amodei die Dringlichkeit verschärft und Unternehmen dazu aufgefordert, die Weiterentwicklung ihrer fortschrittlichsten Modelle zu verlangsamen, um katastrophale Folgen zu vermeiden. Hassabis bezeichnete den Ansatz als „den richtigen Weg nach vorn“, während OpenAI-Chef Sam Altman sagte, die Taktung von Spitzensystemen sei bei OpenAI zu einem „vorrangigen Thema“ geworden.¹

Am Dienstag bestätigte OpenAI, dass es seit Wochen mit Anthropic und Google über gemeinsame Sicherheitsarbeit gesprochen habe. Chris Lehane, Leiter der globalen Angelegenheiten bei OpenAI, argumentierte, freiwillige Branchenstandards sollten „verbindliche bundesstaatliche Schutzvorkehrungen und demokratische Aufsicht“ ergänzen, nicht ersetzen. Das Unternehmen hat zudem eine externe Überprüfung der Sicherheitspraktiken führender Labors unterstützt.¹

Die Gespräche legen ein unangenehmes Spannungsverhältnis offen: Die Unternehmen sind erbitterte kommerzielle Rivalen, stehen jedoch allesamt unter Druck zu zeigen, dass sie zunehmend leistungsfähige Modelle steuern können. Microsoft-Chef Satya Nadella bezeichnete die Aufgabe als sowohl gesellschaftlich als auch technisch und forderte Maßnahmen, um die Vorteile der KI zu verbreiten, die Zustimmung der Gemeinschaften zu gewinnen und „KI-Sicherheit und Kontrolle“ zu gewährleisten.Satya Nadella (satyanadella)²

Doch der entstehende Konsens ist keineswegs allgemein. Berichten zufolge haben einige Beteiligte kartellrechtliche Bedenken geäußert, falls die Koordinierung den Wettbewerb unterdrückt; Amodei hat eine eng begrenzte staatliche Ausnahmegenehmigung ins Spiel gebracht, während Lehane sagt, eine solche sei nicht erforderlich. Präsident Donald Trump und Berater David Sacks haben unterdessen Argumente zu existenziellen Risiken zurückgewiesen und gewarnt, eine Verlangsamung in den USA könnte China einen Vorteil verschaffen.³

Die schärfste Kritik aus der Branche kommt vom Meta-KI-Wissenschaftler Yann LeCun, der das Argument verbreitete, Anthropic und OpenAI könnten Sicherheitsregulierung nutzen, um „konkurrierende Open-Source-Modelle zu verbieten“. Yann LeCun (ylecun)⁴ Die Sicherheitskoalition muss nun beweisen, dass Zusammenarbeit die Öffentlichkeit schützt, ohne stillschweigend etablierte Marktführer zu schützen.