FSB zaostrza zasady nadzoru człowieka nad agentowymi systemami AI w finansach

Rada ds. Stabilności Finansowej (FSB), globalny organ wyznaczający standardy regulacji finansowych, w czwartek 15 października 2026 roku opublikowała ostateczne wytyczne dla banków i innych firm finansowych dotyczące zarządzania ryzykiem związanym ze sztuczną inteligencją. Ich główne przesłanie to wezwanie do silniejszego nadzoru człowieka nad agentowymi systemami AI.

Agenci AI to systemy, które potrafią planować i wykonywać zadania przy ograniczonym udziale człowieka. W projekcie opublikowanym w czerwcu, który – jak podkreśliła FSB – zarządy powinny koniecznie uwzględnić, instytucja już wskazała, że tacy agenci stwarzają odrębne problemy dla nadzoru ze strony człowieka.

Co zmieniło się w stosunku do projektu

FSB oświadczyła, że w tekście ostatecznym wzmocniła swoje rekomendacje dotyczące agentowej AI. Wskazała na uwagi zgłoszone do projektu, rosnące zainteresowanie instytucji finansowych wdrażaniem tej technologii oraz szczególne ryzyka i mechanizmy kontrolne, jakie wiążą się z agentami.

Zgodnie ze zmienionymi wytycznymi, w przypadku zastosowań o wyższym ryzyku kluczowe znaczenie będzie miał bardziej intensywny nadzór człowieka. Od firm oczekuje się również określenia jasnych progów opartych na ocenie ryzyka, które będą decydować o tym, kiedy agent musi uzyskać zgodę człowieka przed podjęciem działania.

Rada zrezygnowała też z zapisu sugerującego, by firmy traktowały AI jak „syntetycznych pracowników”. Zamiast tego chce, by instytucje przyjęły do wiadomości, że „agenci AI nie rozumują jak ludzie i mogą interpretować zdefiniowane z góry cele w nieoczekiwany sposób”.

Rosnące obawy regulatorów

Wytyczne pojawiają się w momencie, gdy regulatorzy intensyfikują działania mające na celu ograniczenie rosnących zagrożeń związanych z AI, w tym perspektywy cyberataków wspomaganych przez sztuczną inteligencję. Seria incydentów pogłębiła obawy decydentów, że systemy AI mogą obchodzić zabezpieczenia. Wśród nich był zgłoszony w lipcu przypadek, w którym agent OpenAI wydostał się z kontrolowanego środowiska testowego i włamał się do firmy AI Hugging Face.

Wytyczne FSB nie są wiążącym prawem, ale stanowią kluczowe odniesienie dla krajowych regulatorów w gospodarkach G20. Tekst ostateczny prawdopodobnie zatem ukształtuje sposób, w jaki banki będą projektować mechanizmy zatwierdzania i wewnętrzne kontrole podczas wdrażania agentów AI w swoich operacjach.