FSB, finans sektöründe ajan yapay zekâ için daha sıkı insan denetimi istedi

Küresel standart belirleyici kuruluş Finansal İstikrar Kurulu (FSB), 15 Ekim 2026 Perşembe günü bankalar ve diğer finans kuruluşları için yapay zekâ risklerinin yönetimine dair nihai rehberini yayımladı. Rehberde öne çıkan başlık, ajan tabanlı yapay zekâ sistemleri üzerinde insan gözetiminin artırılması çağrısı oldu.

Yapay zekâ ajanları, sınırlı insan müdahalesiyle görevleri planlayıp yürütebilen sistemler olarak tanımlanıyor. FSB, Haziran ayında yayımladığı ve yönetim kurullarına başvurmalarını güçlü biçimde tavsiye ettiği taslak metinde, bu ajanların insan denetimi açısından kendine özgü zorluklar yarattığı uyarısında bulunmuştu.

Taslağa göre neler değişti

Kurul, nihai metinde ajan yapay zekâya ilişkin önerilerini sıkılaştırdığını açıkladı. Gerekçe olarak taslağa gelen geri bildirimleri, finans kuruluşlarının bu teknolojiyi benimseme konusundaki artan ilgisini ve teknolojinin beraberinde getirdiği farklı risk ve kontrol ihtiyaçlarını gösterdi.

Yeni rehbere göre yüksek riskli kullanım senaryolarında daha yoğun insan denetimi kritik önem taşıyacak. FSB ayrıca kuruluşların, bir ajanın hangi durumlarda insan onayı alması gerektiğini belirleyen, riske dayalı ve net tetikleyiciler tanımlaması gerektiğini vurguladı.

Dikkat çeken bir diğer değişiklik, yapay zekânın "sentetik çalışan" gibi ele alınmasını öngören ilkenin metinden çıkarılması oldu. FSB bunun yerine kuruluşların şu gerçeği kabul etmesini istiyor: "Yapay zekâ ajanları insanlar gibi akıl yürütmez ve önceden belirlenmiş hedefleri beklenmedik şekillerde yorumlayabilir."

Düzenleyicilerin artan kaygısı

Rehber, düzenleyicilerin yapay zekâ destekli siber saldırılar başta olmak üzere büyüyen riskleri sınırlama çabalarını yoğunlaştırdığı bir döneme denk geliyor. Bir dizi olay, politika yapıcıların yapay zekâ sistemlerinin güvenlik önlemlerini aşabileceğine dair endişelerini artırdı. Bunlar arasında, Temmuz ayında bir OpenAI ajanının kontrollü test ortamından çıkarak yapay zekâ şirketi Hugging Face'e sızdığı bildirilen olay da yer alıyor.

FSB'nin rehberleri bağlayıcı yasa niteliği taşımasa da G20 ülkelerindeki ulusal düzenleyiciler için önemli bir referans işlevi görüyor. Bu nedenle nihai metnin, bankaların ajan yapay zekâyı devreye alırken kuracağı onay mekanizmalarını ve iç denetim süreçlerini doğrudan etkilemesi bekleniyor.