FSB กระชับกฎกำกับดูแลโดยมนุษย์สำหรับ AI เอเจนต์ในภาคการเงิน

คณะกรรมการเสถียรภาพทางการเงิน (FSB) หน่วยงานกำหนดมาตรฐานการกำกับดูแลภาคการเงินระดับโลก ได้เผยแพร่คำแนะนำฉบับสุดท้ายสำหรับธนาคารและสถาบันการเงินอื่นๆ เกี่ยวกับการบริหารความเสี่ยงจากปัญญาประดิษฐ์ในวันพฤหัสบดีที่ 15 ตุลาคม 2569 สาระสำคัญของคำแนะนำคือการเรียกร้องให้มีการกำกับดูแลโดยมนุษย์ที่เข้มงวดยิ่งขึ้นต่อระบบ AI เอเจนต์

AI เอเจนต์คือระบบที่สามารถวางแผนและดำเนินงานได้ โดยมนุษย์เข้ามามีส่วนร่วมเพียงเล็กน้อย ในร่างเอกสารที่เผยแพร่เมื่อเดือนมิถุนายน ซึ่ง FSB ระบุว่าคณะกรรมการบริหารของสถาบันควรศึกษาอย่างยิ่ง หน่วยงานดังกล่าวได้ชี้ให้เห็นแล้วว่าเอเจนต์เหล่านี้สร้างปัญหาเฉพาะด้านต่อการกำกับดูแลโดยมนุษย์

สิ่งที่เปลี่ยนไปจากร่างเอกสาร

FSB ระบุว่าได้เสริมความเข้มแข็งให้ข้อเสนอแนะเกี่ยวกับ AI เอเจนต์ในฉบับสุดท้าย โดยอ้างถึงความคิดเห็นที่ได้รับจากร่างเอกสาร ความสนใจที่เพิ่มขึ้นของสถาบันการเงินในการนำเทคโนโลยีนี้มาใช้ และความเสี่ยงและมาตรการควบคุมเฉพาะที่เกี่ยวข้องกับเอเจนต์

ภายใต้คำแนะนำฉบับปรับปรุง การกำกับดูแลโดยมนุษย์ที่เข้มงวดยิ่งขึ้นจะมีความสำคัญอย่างยิ่งสำหรับกรณีการใช้งานที่มีความเสี่ยงสูง นอกจากนี้ บริษัทต่างๆ ยังคาดว่าจะต้องกำหนดเงื่อนไขที่ชัดเจนและอิงตามระดับความเสี่ยง เพื่อระบุว่าเมื่อใดเอเจนต์ต้องได้รับการอนุมัติจากมนุษย์ก่อนดำเนินการ

คณะกรรมการยังได้ตัดแนวทางที่เคยแนะนำให้บริษัทมองว่า AI เป็น "พนักงานสังเคราะห์" ออกไป แต่ต้องการให้สถาบันยอมรับว่า "AI เอเจนต์ไม่ได้คิดเหมือนมนุษย์ และอาจตีความเป้าหมายที่กำหนดไว้ล่วงหน้าในแบบที่ไม่คาดคิด"

ความกังวลด้านกฎระเบียบที่เพิ่มขึ้น

คำแนะนำนี้เกิดขึ้นในช่วงที่หน่วยงานกำกับดูแลเร่งควบคุมความเสี่ยงจาก AI ที่เพิ่มขึ้น รวมถึงความเป็นไปได้ของการโจมตีทางไซเบอร์ที่ใช้ AI ช่วยดำเนินการ เหตุการณ์หลายครั้งทำให้ผู้กำหนดนโยบายกังวลมากขึ้นว่าระบบ AI อาจหลีกเลี่ยงมาตรการป้องกันได้ หนึ่งในนั้นคือกรณีที่มีรายงานในเดือนกรกฎาคมว่า เอเจนต์ของ OpenAI หลุดออกจากสภาพแวดล้อมการทดสอบที่ควบคุมไว้ และแฮ็กเข้าสู่ Hugging Face บริษัท AI

คำแนะนำของ FSB ไม่ได้เป็นกฎหมายที่มีผลผูกพัน แต่เป็นเอกสารอ้างอิงสำคัญสำหรับหน่วยงานกำกับดูแลระดับชาติในเศรษฐกิจกลุ่ม G20 ดังนั้นฉบับสุดท้ายนี้จึงมีแนวโน้มที่จะกำหนดรูปแบบการออกแบบกลไกการอนุมัติและการควบคุมภายในของธนาคาร ขณะที่พวกเขานำ AI เอเจนต์มาใช้ในการดำเนินงาน