Глава Банка Англии Эндрю Бейли призвал банки, организации финансовой инфраструктуры и технологические компании готовиться к кибератакам с использованием передовых ИИ-моделей, вплоть до восстановления критически важных IT-систем и данных «с нуля» после крупного инцидента. С таким предупреждением он обратился к министрам финансов и руководителям центробанков стран G20 перед их встречей в Эшвилле в американском штатес Северная Каролина. Документ опубликовал Совет по финансовой стабильности, который возглавляет Бейли.
Глава Банка Англии назвал влияние передовых ИИ-моделей на киберриски «наиболее непосредственной проблемой» для финансовой системы. По его словам, технология способна изменить скорость, масштаб и экономику атак, а распространение найденных уязвимостей потребует от компаний быстрее выпускать обновления. Это само по себе создает риск сбоев, если организации не успеют безопасно проверить и установить исправления.
Особенно опасна зависимость банков, бирж и платежных систем от одних и тех же IT-провайдеров и программных продуктов. Атака на общего поставщика способна одновременно нарушить работу нескольких финансовых организаций, а через общую инфраструктуру последствия могут распространиться между странами. Бейли призвал готовиться именно к таким сценариям, а не только к взлому отдельного банка.
Предупреждение появилось после резкого роста возможностей передовых моделей. В июльском докладе Банк Англии предупреждал, что новейшие системы с вероятностью 50% выполняют программные задачи, на которые специалисту потребовалось бы около 16 часов. В одном из испытаний GPT-5.5 справилась со сложной задачей по обратной разработке за 10 минут и 22 секунды, тогда как человеку для нее понадобилось бы примерно 12 часов.
Последние модели также прошли два наиболее сложных испытания британского Института безопасности ИИ. Они должны были провести многоэтапные атаки на небольшие незащищенные корпоративные сети, самостоятельно планируя действия и используя внешние инструменты. До этого ни одна модель не смогла полностью выполнить подобные задания.
Банк Англии подчеркивает, что результаты испытаний еще не доказывают способность ИИ самостоятельно и незаметно взламывать хорошо защищенные реальные системы. Однако регулятор предупреждает, что прежние ограничения моделей исчезают быстрее, чем ожидали эксперты. В опросе Банка Англии 82% участников финансового рынка назвали кибератаки одним из пяти главных рисков для британской финансовой системы, а 26% — самым серьезным риском.
Некоторые испытания ИИ уже привели к взлому реальных организаций. В июле The Insider писал, что три модели Claude из-за ошибки в настройке тестовой среды получили доступ к интернету и проникли в системы трех компаний. Одна из моделей опубликовала вредоносный программный пакет, который успели запустить на 15 устройствах, а другая просканировала около девяти тысяч серверов и взломала приложение реальной компании.
Проверка Anthropic началась после похожего инцидента с моделями OpenAI. Во время испытаний они нашли ранее неизвестную уязвимость, вышли из изолированной среды и получили доступ к инфраструктуре платформы Hugging Face. После этого OpenAI объявила о замедлении разработки моделей, приостановила часть испытаний и ужесточила требования к контролю над ИИ-агентами.
Об опасности технологии предупреждали и руководители самих ИИ-компаний. Глава OpenAI Сэм Альтман заявлял, что развитие генераторов голоса и видео приведет к массовому «кризису с мошенничеством». Его особенно тревожит то, что некоторые банки по-прежнему разрешают подтверждать крупные переводы голосовой кодовой фразой, которую уже способен имитировать ИИ.
Глава Anthropic Дарио Амодеи также призывал человечество «проснуться» перед лицом потенциально катастрофических рисков мощных моделей. По его словам, людям вскоре будет доступна «почти невообразимая власть», тогда как способность государственных и общественных институтов контролировать ее остается неясной. При этом OpenAI и Anthropic продолжают привлекать десятки миллиардов долларов и участвовать в гонке за создание наиболее мощной модели.
Бейли предупредил не только о кибератаках, но и о финансовых рисках самого инвестиционного бума вокруг ИИ. По его словам, высокие оценки активов сочетаются с ростом заемных инвестиций, популярностью фондов с кредитным плечом и тесными финансовыми связями между разработчиками ИИ и крупнейшими технологическими компаниями. Если настроения инвесторов изменятся, такая структура способна усилить падение рынка и распространить его на другие части финансовой системы.
Глава Совета по финансовой стабильности призвал страны G20 выработать общий подход к разработке, выпуску и использованию передовых моделей. Во многих государствах пока нет процедур, позволяющих оценивать их безопасность до предоставления широкого доступа. Бейли считает международное регулирование необходимым, поскольку кибератаки, общие IT-провайдеры и финансовые рынки не ограничены границами одной страны.
