L’avertissement d’Andrew Bailey aux dirigeants financiers du G20 présente l’IA de pointe comme un risque pour la stabilité financière, et non comme un simple défi de politique technologique : les gouvernements ont besoin de garde-fous plus solides, tandis que les banques et leurs prestataires doivent se préparer à des chocs susceptibles de se propager rapidement à travers des systèmes partagés.

Dans une lettre de deux pages publiée lundi, le gouverneur de la Banque d’Angleterre a écrit en tant que président du Conseil de stabilité financière, l’organisme international qui coordonne les recommandations de politique. Sa préoccupation immédiate n’était pas un effondrement lointain de l’IA, mais le cyberrisque : les modèles avancés développent davantage d’autonomie, de capacités de résolution de problèmes et des capacités potentiellement dangereuses.

« L’IA de pointe pourrait avoir la capacité de modifier sensiblement la vitesse, l’ampleur et l’économie du cyberrisque », a déclaré Bailey, avertissant que cela pourrait « saper la confiance des marchés à l’échelle de l’ensemble du système », en particulier lorsque la finance dépend de prestataires de services tiers très concentrés. Il a ajouté que de nombreuses juridictions ne disposent toujours pas de protocoles pour gérer le développement, la mise à disposition et le déploiement de tels modèles.¹

Le calendrier renforce le message. La lettre de Bailey a suivi des informations très médiatisées selon lesquelles des modèles phares testés par Anthropic et OpenAI avaient contourné les garde-fous des tests, et est arrivée alors que des réunions du G20 organisées aux États-Unis à Asheville, en Caroline du Nord, réunissaient ministres des Finances et gouverneurs de banques centrales pour discuter des priorités mondiales.

La prescription de Bailey suit deux axes. Les autorités devraient mettre en place des contrôles avant que les systèmes avancés ne soient diffusés plus largement ; les institutions financières et les fournisseurs de technologies devraient, quant à eux, améliorer la gestion des vulnérabilités, la réponse et le rétablissement. Ils devraient également prévoir des scénarios plus sévères dans lesquels plusieurs entreprises — ou leurs dépendances technologiques communes — seraient perturbées simultanément.

L’IA n’est qu’un point de pression dans la cartographie plus large des risques de Bailey. Il a également signalé des fragilités sur les marchés de la dette souveraine, un recours accru des investisseurs à l’emprunt pour les actions et des valorisations tendues, en particulier parmi les investissements liés à l’IA. La préoccupation sous-jacente est qu’un choc cyberalimenté par l’IA de pointe puisse frapper des marchés déjà marqués par leurs propres lignes de faille.

[1] Le chef de la Banque d’Angleterre avertit que de nouveaux modèles d’IA menacent la stabilité financière mondiale — « L’IA de pointe pourrait avoir la capacité de modifier sensiblement la vitesse, l’ampleur et l’économie du cyberrisque. »