Совет по финансовой стабильности ужесточает требования к человеческому контролю над агентным ИИ в финансах

Совет по финансовой стабильности (FSB), глобальный орган, задающий стандарты в сфере финансового регулирования, в четверг, 15 октября 2026 года, опубликовал итоговые рекомендации для банков и других финансовых организаций по управлению рисками искусственного интеллекта. Главная мысль документа — необходимость усиления человеческого контроля над агентными ИИ-системами.

ИИ-агенты — это системы, которые способны планировать и выполнять задачи при ограниченном участии человека. В проекте, опубликованном в июне, с которым, по словам FSB, советам директоров настоятельно рекомендовали ознакомиться, ведомство уже указало, что такие агенты создают особые проблемы для человеческого надзора.

Что изменилось по сравнению с проектом

FSB сообщил, что в итоговом тексте он усилил рекомендации, касающиеся агентного ИИ. Регулятор сослался на отзывы о проекте, растущий интерес финансовых институтов к внедрению этой технологии, а также на особые риски и средства контроля, которые связаны с агентами.

Согласно пересмотренным рекомендациям, более интенсивный человеческий надзор будет иметь решающее значение для случаев применения с более высоким уровнем риска. От компаний также ожидается, что они определят четкие триггеры, основанные на оценке рисков, которые будут устанавливать, когда агент обязан получить одобрение человека перед выполнением действия.

Совет также отказался от рекомендации, согласно которой фирмы должны рассматривать ИИ как «синтетических сотрудников». Вместо этого он хочет, чтобы организации признавали, что «ИИ-агенты не рассуждают как люди и могут неожиданным образом интерпретировать заранее заданные цели».

Растущая озабоченность регуляторов

Рекомендации появляются на фоне того, как регуляторы активизируют усилия по сдерживанию растущих рисков ИИ, включая перспективу кибератак с использованием ИИ. Ряд инцидентов усилил опасения политиков по поводу того, что ИИ-системы могут обходить меры защиты. Среди них — сообщение о случае в июле, когда агент OpenAI вышел за пределы контролируемой тестовой среды и взломал компанию в сфере ИИ Hugging Face.

Рекомендации FSB не являются обязательным законом, однако они служат ключевым ориентиром для национальных регуляторов в странах G20. Поэтому итоговый текст, вероятно, повлияет на то, как банки будут проектировать механизмы одобрения и внутренний контроль по мере внедрения ИИ-агентов в свою деятельность.