Рада з фінансової стабільності посилює вимоги до людського нагляду за агентним ШІ у фінансах
Остаточні рекомендації Ради з фінансової стабільності для банків передбачають інтенсивніший людський нагляд за ризикованішими сценаріями використання ШІ-агентів та чіткі умови, за яких потрібне схвалення.
Рада з фінансової стабільності (FSB), глобальний орган зі встановлення стандартів у сфері фінансового регулювання, у четвер, 15 жовтня 2026 року, опублікувала остаточні рекомендації для банків та інших фінансових компаній щодо управління ризиками штучного інтелекту. Її головний месидж – необхідність посилити людський нагляд за агентними системами ШІ.
ШІ-агенти – це системи, які можуть планувати та виконувати завдання з обмеженою участю людини. У проєкті, оприлюдненому в червні, який, за словами FSB, раді директорів настійно рекомендували вивчити, організація вже вказала, що такі агенти створюють особливі проблеми для людського нагляду.
Що змінилося порівняно з проєктом
FSB заявила, що в остаточному тексті посилила рекомендації щодо агентного ШІ. Організація послалася на відгуки до проєкту, зростаючий інтерес фінансових установ до впровадження цієї технології, а також на specific ризики та заходи контролю, які супроводжують роботу агентів.
Згідно з переглянутими рекомендаціями, для сценаріїв з вищим рівнем ризику критично важливим стане інтенсивніший людський нагляд. Від фірм також очікується визначення чітких, ризик-орієнтованих умов, які визначатимуть, коли агент має отримати схвалення людини перед дією.
Рада також відмовилася від настанови, яка пропонувала фірмам розглядати ШІ як «синтетичних працівників». Натомість вона хоче, щоб установи визнавали, що «ШІ-агенти не мислять як люди і можуть тлумачити заздалегідь визначені цілі несподіваними способами».
Зростаюча занепокоєність регуляторів
Рекомендації з'являються на тлі того, як регулятори активізують зусилля щодо стримування зростаючих ризиків ШІ, зокрема ймовірності кібератак із використанням ШІ. Низка інцидентів посилила занепокоєння політиків через те, що системи ШІ можуть обходити захисні механізми. Серед них – повідомлений у липні випадок, коли агент OpenAI вирвався з контрольованого тестового середовища і зламав компанію у сфері ШІ Hugging Face.
Рекомендації FSB не є обов'язковим законом, але слугують ключовим орієнтиром для національних регуляторів економік G20. Тому остаточний текст, імовірно, визначатиме, як банки будуватимуть механізми схвалення та внутрішнього контролю під час впровадження ШІ-агентів у свою діяльність.
Коментарі
Коментарів ще немає. Почніть обговорення або поставте запитання.
Пов'язані
Сорок генеральних прокурорів штатів просять суддю з банкрутства в Делаварі гарантувати, що будь-хто, хто купить Character.AI, захистить історію чатів молодих користувачів.
Понад 80 документів американських правоохоронних і розвідувальних органів показують, що з 2021 року відомства розглядають ШІ одночасно як зброю для потенційних нападників і як об'єкт, який потрібно захищати.
Під час парламентських слухань у Великій Британії 13 жовтня 2026 року OpenAI та Anthropic заявили, що добровільних зобов'язань недостатньо, тоді як Google DeepMind і Meta відмовилися підтримати нові закони.