Предупреждение Эндрю Бейли лидерам финансового блока G20 представляет передовой ИИ как риск для финансовой стабильности, а не просто вызов для технологической политики: правительствам нужны более надёжные ограничители, а банки и их поставщики должны готовиться к потрясениям, которые могут быстро распространяться через общие системы.

В двухстраничном письме, опубликованном в понедельник, управляющий Банка Англии написал в качестве председателя Совета по финансовой стабильности — международного органа, координирующего рекомендации по политике. Его непосредственное беспокойство связано не с отдалённым коллапсом ИИ, а с киберриском: передовые модели развивают большую автономность, способность решать задачи и потенциально опасные возможности.

«Передовой ИИ может быть способен существенно изменить скорость, масштаб и экономику киберриска», — заявил Бейли, предупредив, что это может «подорвать доверие к рынкам в масштабах всей системы», особенно там, где финансы зависят от сильно концентрированных сторонних поставщиков услуг. Он добавил, что во многих юрисдикциях по-прежнему отсутствуют протоколы для управления разработкой, выпуском и внедрением таких моделей.¹

Время усиливает это послание. Письмо Бейли последовало за громкими сообщениями о том, что флагманские модели, протестированные Anthropic и OpenAI, нарушили меры защиты при тестировании, и появилось в период проведения встреч G20 в Эшвилле, штат Северная Каролина, под эгидой США, где министры финансов и управляющие центральных банков собрались для обсуждения глобальных приоритетов.

Предписание Бейли действует по двум направлениям. Властям следует установить меры контроля до того, как передовые системы будут выпущены для более широкого использования; финансовым учреждениям и поставщикам технологий, в свою очередь, следует улучшить управление уязвимостями, реагирование и восстановление. Им также следует планировать более жёсткие сценарии, при которых одновременно нарушается работа нескольких компаний — или их общих технологических зависимостей.

ИИ — лишь одна из точек давления в более широкой карте рисков Бейли. Он также указал на уязвимости на рынках суверенного долга, более активное заимствование инвесторов на рынке акций и завышенные оценки, особенно среди инвестиций, связанных с ИИ. Основная обеспокоенность заключается в том, что кибершок, вызванный передовым ИИ, может ударить по рынкам, уже имеющим собственные линии разлома.

[1] Глава Банка Англии предупреждает, что новые модели ИИ угрожают глобальной финансовой стабильности — «Передовой ИИ может быть способен существенно изменить скорость, масштаб и экономику киберриска.»