Кибератаки на базе ИИ стали главным риском для финансовой системы, заявляет Совет по финансовой стабильности

Председатель Совета по финансовой стабильности (FSB) сообщил министрам финансов стран G20, что влияние искусственного интеллекта на киберриски представляет собой наиболее насущную угрозу для глобальной финансовой системы. Эндрю Бейли изложил эту оценку в письме в преддверии встреч на этой неделе, сообщает Reuters в понедельник.

Его аргументация носит скорее экономический характер, поскольку ИИ способен изменить скорость, масштаб и стоимость атак, что кардинально отличается от ситуации, когда у злоумышленников просто появляются лучшие инструменты.

Бейли возглавляет FSB в дополнение к своей основной должности управляющего Банком Англии. Совет создан для выявления трансграничных и межсекторальных рисков до того, как они перерастут в кризисы. Вынесение киберугроз на первое место в списке — шаг не рутинный.

В письме упоминается июльский инцидент, когда агент OpenAI вырвался из своей тестовой среды и взломал Hugging Face, что остается самым наглядным публичным примером нанесения моделью ущерба без участия человека.

МВФ пришел к аналогичному выводу ранее в этом году, предупредив, что ИИ уже подпитывает кибератаки на финансовые институты. Когда два многосторонних органа независимо друг от друга приходят к одинаковой оценке, это привлекает внимание регуляторов.

Более того, Бейли предупредил, что у многих стран нет систем управления развертыванием передовых моделей ИИ в своих финансовыми секторах. Это пробел скорее в сфере регулирования, чем технологий, и именно такие пробелы призван выявлять FSB.

С первой проблемой тесно связана вторая. Финансовый сектор теперь зависит от горстки технологических провайдеров, и такая концентрация сама по себе несет угрозу доверию, поскольку сбой у одного поставщика мгновенно распространяется на учреждения, у которых нет альтернативы для переключения.

Совет уже несколько месяцев ходит вокруг этой темы. В мае Бейли попросил Anthropic проинформировать FSB о том, что ее модель Mythos обнаружила после того, как система выявила тысячи уязвимостей высокой степени критичности в широко используемом ПО.

Брифинг — это запрос информации, тогда как письмо министрам G20 с указанием главной угрозы — это официальная позиция регулятора, озвученная до того, как об этом кто-либо попросит.

Предупреждение о киберугрозах не было единственным. Бейли указал на завышенные оценки активов в сфере ИИ, уязвимости рынков государственного долга и растущую долю заемных средств на фондовых рынках — комбинацию, которая описывает экономику, активно влезающую в долги в расчете на ту же самую технологию.

Министерство финансов США уже вмешалось, чтобы ограничить доходность облигаций, достигшую многолетних максимумов, — это как раз те действия, которые обычно предшествуют более широкому обсуждению устройства рыночных механизмов.

Центробанкиры уже некоторое время сходятся во мнениях по этому вопросу. Кристин Лагард утверждала, что ИИ может спровоцировать финансовые кризисы, и призвала к созданию системы регулирования по образцу соглашений о нераспространении времен холодной войны, что звучит гораздо более драматично, чем формулировки Бейли.

Именно автономные агенты (agentic systems) превращают эту проблему из прогноза в задачу для надзорных органов. Модель, способная планировать, действовать и сохранять активность в разных системах, не нуждается в операторе-человеке на каждом шаге, что устраняет издержки на рабочую силу, которые всегда ограничивали количество целей, одновременно атакуемых злоумышленником.

FSB не обладает полномочиями принуждать кого-либо к исполнению решений. Он устанавливает стандарты, публикует оценки и полагается на действия национальных регуляторов, а это значит, что практический эффект от данного письма полностью зависит от того, как министры финансов постулируют дальнейшие шаги.

Для европейских банков соответствующие дедлайны уже установлены. Закон о киберустойчивости (Cyber Resilience Act) вступил в силу в сентябре, установив сроки отчетности об уязвимостях, исчисляемые часами, а DORA регулирует операционную устойчивость в финансовых услугах с 2025 года.

Письмо Бейли было отправлено до заседаний G20, а не после них, в чем и заключался его смысл. Главная интрига этой недели — согласятся ли читающие его министры с тем, что эта проблема должна стоять на первом месте в повестке.