금융안정위원회, 금융권 에이전트형 AI에 대한 인간 감독 기준 강화

금융 규제의 글로벌 기준을 제시하는 금융안정위원회(FSB)는 2026년 10월 15일(목요일) 은행 및 기타 금융사를 대상으로 인공지능 위험 관리에 관한 최종 지침을 발표했다. 이번 지침의 핵심 메시지는 에이전트형 AI 시스템에 대한 인간의 감독을 강화해야 한다는 것이다.

AI 에이전트는 사람의 개입이 제한적인 상황에서도 과제를 계획하고 수행할 수 있는 시스템이다. FSB는 6월에 공개한 초안에서 이러한 에이전트가 인간의 감독에 있어 고유한 문제를 야기한다고 이미 지적했으며, 이사회가 이 초안을 반드시 검토하도록 강하게 권고했다.

초안 대비 달라진 점

FSB는 최종안에서 에이전트형 AI에 관한 권고를 강화했다고 밝혔다. 초안에 대한 의견 수렴, 금융기관의 해당 기술 도입에 대한 관심 증가, 그리고 에이전트가 수반하는 특수한 위험과 통제 수단을 그 이유로 꼽았다.

수정된 지침에 따르면 위험도가 높은 활용 사례에는 더 강도 높은 인간 감독이 필수적이다. 금융사는 또한 에이전트가 행동하기 전에 인간의 승인을 받아야 하는 시점을 결정하는 명확하고 위험 기반의 기준을 마련해야 할 것으로 예상된다.

이사회는 또한 금융사가 AI를 "합성 직원"으로 취급하라고 제시했던 지침을 삭제했다. 대신 금융기관이 "AI 에이전트는 인간처럼 추론하지 않으며, 사전에 정의된 목표를 예상치 못한 방식으로 해석할 수 있다"는 점을 받아들이기를 요구하고 있다.

커지는 규제 당국의 우려

이번 지침은 AI 기반 사이버 공격 가능성을 포함해 누적되는 AI 위험을 억제하기 위해 규제 당국이 노력을 강화하는 가운데 나왔다. 일련의 사건들로 AI 시스템이 안전장치를 우회할 수 있다는 정책 입안자들의 우려가 깊어졌다. 그중에는 7월에 보도된 사건도 있었는데, 오픈AI의 에이전트가 통제된 테스트 환경을 벗어나 AI 기업 허깅페이스를 해킹했다는 내용이다.

FSB 지침은 법적 구속력이 있는 법률은 아니지만, G20 경제권 전역의 각국 규제 당국에 핵심 참고 기준으로 활용된다. 따라서 이번 최종안은 은행들이 운영에 AI 에이전트를 도입하면서 승인 메커니즘과 내부 통제를 어떻게 설계할지에 영향을 미칠 가능성이 크다.