Центробанки Европы предупредили о рисках агентного AI в финансах

Европейские регуляторы и центральные банкиры предупредили, что традиционное регулирование не успевает за стремительным развитием агентного искусственного интеллекта в финансах. Заявления прозвучали на этой неделе на ежегодной конференции Европейского центрального банка в Синтре (Португалия). Под агентным AI понимают системы, которые самостоятельно принимают торговые решения и совершают транзакции без пошаговых инструкций человека, и именно это больше всего беспокоит чиновников.

Европейские регуляторы предупреждают об AI-агентах в финансах

Заместитель главы Банка Англии Сара Бриден заявила во вторник в Синтре, что агентный AI способен усиливать волатильность во время рыночного стресса. Она задалась вопросом, нужны ли предохранители, "аналогичные автоматическим остановкам торгов или кнопкам аварийного отключения, которые могли бы ограничить или остановить торговлю по всему рынку, если неисправные AI-модели вызовут обвал". По ее словам, объемы долгового финансирования, связанного с AI, стремительно растут, поэтому последствия возможного падения цен на AI-активы для финансовой стабильности тоже усиливаются.

В четверг президент ЕЦБ Кристин Лагард в интервью французскому изданию Les Echos назвала технологию AI "серьезным риском". "Около десяти лет мы говорим о киберрисках, взломах, краже данных. Но с ускорением и углублением AI-моделей мы сталкиваемся с гораздо более серьезной угрозой, потому что это происходит очень быстро, а средства защиты и финансирование для них еще не найдены", - сказала она.

Призывы к новым предохранителям в финансовом регулировании

Глава британского регулятора финансовых услуг FCA Никил Рати в интервью CNBC в тот же четверг заявил, что привычные циклы регулирования не работают в эпоху быстрого развития AI. "Технологии меняются очень быстро, и нам нужно по-другому думать о некоторых инновациях, которые мы видим в AI. Некоторые из этих технологий теперь меняются за недели или месяцы, а традиционный цикл нормотворчества просто так не работает", - объяснил Рати.

Участники обсуждения признали и обратную сторону проблемы. США лидируют в инвестициях в AI и разработке передовых моделей, а финансовая система Европы дает меньше каналов капитала для AI-компаний по сравнению с рынком акций США. Слишком осторожное регулирование может еще больше углубить этот разрыв, ведь AI-компании могут искать юрисдикции с более мягкими требованиями.

BIS и МВФ предупреждают о риске обвала AI-активов

28 июня Банк международных расчетов (BIS) заявил, что чрезмерный оптимизм по поводу AI может иметь серьезные финансовые последствия. Если центробанки усилят монетарную политику для сдерживания инфляции, это способно спровоцировать резкий откат цен на AI-активы после длительного периода рискованных инвестиций, что в свою очередь может привести к разрушительным макрофинансовым петлям обратной связи, указали в BIS.

Директор департамента монетарных и рыночных операций МВФ Тобиас Адриан в интервью Bloomberg 30 июня обратил внимание на потенциальное несоответствие сроков между сроком службы физических активов, которые финансирует AI-бум, например дата-центров и оборудования, и сроком долга, привлеченного на их строительство. По словам Бриден, объемы такого долгового финансирования уже растут быстрыми темпами.

• Скорость развития AI опережает традиционные циклы регулирования.
• Ошибки моделей могут усилить волатильность во время рыночного стресса.
• Долг, привлеченный под AI-инфраструктуру, растет быстрее сроков службы активов.
• Слишком строгие правила рискуют вытеснить AI-компании в другие юрисдикции.

Параллели с предупреждениями о криптовалюте

Те же центробанкиры годами предупреждали и о рисках криптовалют, например Bitcoin и стейблкоинов вроде USDT, для стабильности традиционной финансовой системы. Аргументация повторяется: новые технологии развиваются быстрее, чем регуляторы успевают писать правила, а это оставляет окно для системных рисков.

Пока ни один из озвученных в Синтре призывов не оформлен в конкретный законопроект. Центральные банки лишь обозначили направление дискуссии, и ближайшие месяцы должны показать, перейдут ли слова о предохранителях в реальные требования к AI-моделям в финансах.