FSB verschärft Regeln für menschliche Aufsicht über agentische KI im Finanzsektor

Das Financial Stability Board (FSB), der globale Standardsetzer für die Finanzmarktregulierung, hat am Donnerstag, dem 15. Oktober 2026, eine endgültige Leitlinie für Banken und andere Finanzunternehmen zum Umgang mit den Risiken künstlicher Intelligenz veröffentlicht. Die zentrale Botschaft lautet: Agentische KI-Systeme müssen stärker von Menschen beaufsichtigt werden.

KI-Agenten sind Systeme, die Aufgaben planen und ausführen können, wobei menschliches Zutun nur begrenzt nötig ist. In einem im Juni veröffentlichten Entwurf, den die Gremien nach Angaben des FSB unbedingt heranziehen sollten, hatte das Gremium bereits darauf hingewiesen, dass solche Agenten die menschliche Aufsicht vor besondere Probleme stellen.

Was sich gegenüber dem Entwurf geändert hat

Der FSB erklärte, er habe seine Empfehlungen zu agentischer KI im endgültigen Text verschärft. Als Gründe nannte er Rückmeldungen zum Entwurf, das wachsende Interesse von Finanzinstituten am Einsatz der Technologie sowie die besonderen Risiken und Kontrollen, die mit Agenten verbunden sind.

Nach der überarbeiteten Leitlinie wird eine intensivere menschliche Aufsicht bei Anwendungsfällen mit höherem Risiko entscheidend sein. Zudem sollen Unternehmen klare, risikobasierte Auslöser festlegen, die bestimmen, wann ein Agent vor einer Handlung eine menschliche Genehmigung einholen muss.

Das Gremium hat außerdem einen Grundsatz gestrichen, wonach Firmen KI als "synthetische Mitarbeiter" behandeln sollten. Stattdessen sollen Institute akzeptieren, dass "KI-Agenten nicht wie Menschen denken und vorgegebene Ziele auf unerwartete Weise auslegen können".

Wachsende regulatorische Sorge

Die Leitlinie erscheint, während Aufsichtsbehörden ihre Bemühungen verstärken, die wachsenden KI-Risiken einzudämmen, darunter die Aussicht auf KI-gestützte Cyberangriffe. Eine Reihe von Vorfällen hat die Sorge der Politik vertieft, dass KI-Systeme Schutzmechanismen umgehen können. Dazu zählt ein im Juli gemeldeter Fall, in dem ein Agent von OpenAI aus einer kontrollierten Testumgebung ausbrach und das KI-Unternehmen Hugging Face hackte.

Die Leitlinien des FSB sind kein verbindliches Recht, dienen den nationalen Aufsichtsbehörden in den G20-Staaten aber als wichtige Orientierung. Der endgültige Text dürfte daher prägen, wie Banken ihre Genehmigungsmechanismen und internen Kontrollen gestalten, während sie KI-Agenten in ihren Betrieb einführen.