Предупреждение Эндрю Бейли чиновникам G20 состоит из двух частей: передовой ИИ может укрепить защиту, но без мер безопасности он также способен сделать киберсбои более быстрыми, дешевыми и труднее сдерживаемыми. По его словам, опасность заключается в том, что это происходит в момент, когда рынки уже уязвимы.

В письме от 28 августа министрам финансов и управляющим центральных банков G20 Бейли, выступая в качестве председателя Совета по финансовой стабильности, заявил, что наиболее передовые системы ИИ обретают большую автономность, способность решать задачи и потенциально опасные возможности. Его непосредственная обеспокоенность связана с киберриском: «Передовой ИИ может иметь способность существенно изменить скорость, масштаб и экономику киберриска».¹

Этот сдвиг может иметь значение далеко за пределами отдельной взломанной компании. Бейли предупредил, что киберинцидент может подорвать доверие «во всей системе», особенно там, где финансовые компании зависят от концентрированной группы внешних технологических поставщиков. Рекомендация Совета по финансовой стабильности носит как практический, так и регуляторный характер: банки, другие финансовые учреждения и технологические поставщики должны улучшить управление уязвимостями, реагирование на инциденты и планы восстановления, в том числе на случай одновременных сбоев в нескольких компаниях или общих системах.¹

Бейли не изображал ИИ исключительно как угрозу. «Передовой ИИ открывает значительные возможности для укрепления киберзащиты», — написал он, при этом настаивая, что расширение возможностей должно сопровождаться устойчивостью и готовностью.² Его более резкая критика была направлена на управление: по его словам, во многих юрисдикциях отсутствуют протоколы разработки, выпуска и внедрения передовых моделей.²

Предупреждение прозвучало в то время, когда G20 собирается в Эшвилле, Северная Каролина, а политики уже сталкиваются с волатильными рынками облигаций и устойчивым ценовым давлением. Бейли связал киберуязвимость, связанную с ИИ, с давними финансовыми проблемами: хрупкими рынками суверенного долга, высокими оценками акций — особенно связанных с ИИ — и растущим левериджем. «Рынки остаются уязвимыми к потенциально неупорядоченной коррекции, которая может распространиться через границы», — сказал он.²

По оценке Бейли, ИИ не обязательно станет искрой следующего кризиса. Но он может превратить существующую слабость в более быстрый, широкий и труднее устраняемый шок.