Andrew Baileys Warnung an die G20-Finanzverantwortlichen stellt Frontier-KI als Risiko für die Finanzstabilität dar, nicht lediglich als Herausforderung der Technologiepolitik: Regierungen brauchen stärkere Leitplanken, während Banken und ihre Dienstleister sich auf Schocks vorbereiten müssen, die sich rasch durch gemeinsame Systeme ausbreiten könnten.

In einem am Montag veröffentlichten zweiseitigen Brief schrieb der Gouverneur der Bank of England in seiner Funktion als Vorsitzender des Financial Stability Board, des internationalen Gremiums, das politische Empfehlungen koordiniert. Seine unmittelbare Sorge galt nicht einem fernen KI-Kollaps, sondern dem Cyberrisiko: Fortgeschrittene Modelle entwickeln mehr Autonomie, Problemlösungsfähigkeit und potenziell gefährliche Fähigkeiten.

„Frontier-KI könnte die Fähigkeit haben, Geschwindigkeit, Umfang und wirtschaftliche Dimensionen des Cyberrisikos wesentlich zu verändern“, sagte Bailey und warnte, dies könne „das Marktvertrauen systemweit untergraben“, insbesondere dort, wo der Finanzsektor von stark konzentrierten externen Dienstleistern abhängt. Er fügte hinzu, dass vielen Rechtsräumen weiterhin Protokolle fehlten, um die Entwicklung, Veröffentlichung und Einführung solcher Modelle zu steuern.¹

Der Zeitpunkt verschärft die Botschaft. Baileys Brief folgte auf vielbeachtete Berichte, wonach von Anthropic und OpenAI getestete Spitzenmodelle Testsicherheitsvorkehrungen durchbrochen hätten, und erschien, während von den USA ausgerichtete G20-Treffen in Asheville, North Carolina, Finanzminister und Zentralbankgouverneure zusammenbrachten, um globale Prioritäten zu erörtern.

Baileys Rezept verfolgt zwei Wege. Behörden sollten Kontrollen etablieren, bevor fortschrittliche Systeme breiter eingesetzt werden; Finanzinstitute und Technologieanbieter sollten unterdessen das Management von Schwachstellen sowie Reaktion und Wiederherstellung verbessern. Sie sollten zudem für härtere Szenarien planen, in denen mehrere Unternehmen – oder ihre gemeinsamen Technologieabhängigkeiten – gleichzeitig gestört werden.

KI ist nur ein Belastungspunkt in Baileys breiterer Risikokarte. Er verwies außerdem auf Anfälligkeiten an den Märkten für Staatsschulden, höhere Kreditaufnahme von Anlegern bei Aktien und hohe Bewertungen, insbesondere bei KI-bezogenen Investments. Die grundlegende Sorge ist, dass ein durch Frontier-KI angetriebener Cyberschock auf Märkte treffen könnte, die bereits eigene Bruchlinien aufweisen.

[1] Chef der Bank of England warnt, neue KI-Modelle bedrohten die globale Finanzstabilität — „Frontier-KI könnte die Fähigkeit haben, Geschwindigkeit, Umfang und wirtschaftliche Dimensionen des Cyberrisikos wesentlich zu verändern.“