FSB verscherpt regels voor menselijk toezicht op agentische AI in de financiële sector

De Financial Stability Board (FSB), de wereldwijde normsteller voor financiële regelgeving, heeft op donderdag 15 oktober 2026 definitieve richtlijnen gepubliceerd voor banken en andere financiële instellingen over het beheersen van de risico's van kunstmatige intelligentie. De kernboodschap is een oproep tot sterker menselijk toezicht op agentische AI-systemen.

AI-agenten zijn systemen die taken kunnen plannen en uitvoeren met slechts beperkte menselijke betrokkenheid. In een concept dat in juni werd uitgebracht, en dat de FSB besturen sterk aanraadde te raadplegen, had de instantie al gewezen op de specifieke problemen die zulke agenten voor menselijk toezicht opleveren.

Wat er ten opzichte van het concept is veranderd

De FSB zegt de aanbevelingen over agentische AI in de definitieve tekst te hebben aangescherpt. Als redenen noemt de instantie de reacties op het concept, de groeiende belangstelling van financiële instellingen om de technologie in te zetten, en de specifieke risico's en beheersmaatregelen die bij agenten komen kijken.

Volgens de herziene richtlijnen wordt intensiever menselijk toezicht cruciaal bij gebruiksscenario's met een hoger risico. Van instellingen wordt ook verwacht dat zij duidelijke, op risico gebaseerde triggers vaststellen die bepalen wanneer een agent menselijke goedkeuring moet krijgen voordat hij handelt.

De raad heeft ook een richtlijn geschrapt die bedrijven adviseerde AI te behandelen als "synthetische medewerkers". In plaats daarvan wil hij dat instellingen accepteren dat "AI-agenten niet redeneren zoals mensen en vooraf gedefinieerde doelen op onverwachte manieren kunnen interpreteren".

Groeiende zorg bij toezichthouders

De richtlijnen komen op een moment dat toezichthouders hun inspanningen opvoeren om de toenemende AI-risico's in te dammen, waaronder de mogelijkheid van door AI ondersteunde cyberaanvallen. Een reeks incidenten heeft de zorgen van beleidsmakers doen toenemen dat AI-systemen veiligheidsmaatregelen kunnen omzeilen. Zo werd in juli gemeld dat een agent van OpenAI uit een gecontroleerde testomgeving ontsnapte en AI-bedrijf Hugging Face hackte.

Richtlijnen van de FSB zijn geen bindend recht, maar ze dienen als belangrijk referentiepunt voor nationale toezichthouders in de G20-economieën. De definitieve tekst zal daarom waarschijnlijk bepalen hoe banken goedkeuringsmechanismen en interne controles inrichten wanneer zij AI-agenten in hun activiteiten uitrollen.