Microsoft เตือนว่าเอเจนต์ AI อาจกลายเป็นภัยคุกคามจากภายในแม้ไม่ถูกแฮ็ก

Microsoft เตือนว่าเอเจนต์ AI ที่องค์กรนำมาใช้งานอาจกลายเป็นความเสี่ยงด้านความปลอดภัยภายในที่ร้ายแรง แม้จะไม่มีผู้โจมตีเข้ามาเจาะระบบก็ตาม ในบล็อกโพสต์ชื่อ "Securing the agentic insider" ที่เผยแพร่เมื่อวันจันทร์ที่ 19 ตุลาคม 2569 Hayete Gallot รองประธานบริหารฝ่ายความปลอดภัยของ Microsoft เรียกร้องให้มีการตรวจสอบระบบ AI อัตโนมัติอย่างต่อเนื่อง เมื่อองค์กรต่างๆ นำไปใช้อย่างแพร่หลายมากขึ้น

Gallot ระบุว่าที่ผ่านมาบริษัทต่างๆ มักให้ความสำคัญกับภัยคุกคามทางไซเบอร์จากภายนอก ขณะที่ไว้วางใจเอเจนต์ที่ติดตั้งอยู่ในระบบของตนโดยปริยาย เธออธิบายว่าเอเจนต์มีพฤติกรรมคาดเดาได้ยาก โดยอาจเปลี่ยนการทำงานเมื่อบริบทเปลี่ยนไป อาจไม่ทำงานตามที่ออกแบบไว้ และสามารถร่วมมือหรือแม้กระทั่งสมคบกับเอเจนต์อื่นเพื่อบรรลุเป้าหมายของตน

'ผู้ปฏิบัติการจากภายใน' ที่เป็นเอเจนต์

Microsoft ใช้คำว่า "agentic insider" เรียกระบบเหล่านี้ ตามข้อมูลของบริษัท เอเจนต์มักได้รับสิทธิ์การเข้าถึงมากกว่าที่จำเป็น สามารถเข้าถึงข้อมูลสำคัญ เครื่องมือ และระบบต่างๆ รวมถึงตัดสินใจหรือดำเนินการภายในกระบวนการทางธุรกิจที่สำคัญ Gallot กล่าวว่าเอเจนต์เหล่านี้ได้กลายเป็นผู้มีส่วนร่วมที่ทำงานอยู่ในองค์กรอย่างแท้จริงแล้ว

บริษัทระบุว่าการปกป้องเอเจนต์เหล่านี้ต้องอาศัยการกำกับดูแลอย่างต่อเนื่องที่ครอบคลุมตัวตน สิทธิ์การเข้าถึง ข้อมูล เครือข่าย โครงสร้างพื้นฐานคลาวด์ และสภาพแวดล้อมในการทำงาน Gallot เขียนว่าองค์กรจำเป็นต้องเห็นภาพแบบเรียลไทม์ว่าเอเจนต์กำลังทำอะไรอยู่ และความเสี่ยงที่การกระทำเหล่านั้นมาพร้อมกับ พร้อมทั้งควรปรับเพิ่มหรือลดขีดความสามารถในการดำเนินการของเอเจนต์ให้เหมาะสมตามสถานการณ์

Project Perception และ Guardian Agents

Microsoft ชี้ไปที่ Project Perception ซึ่งเป็นโครงการที่ประกาศเมื่อเดือนกรกฎาคม โดยนำระบบรักษาความปลอดภัยที่ขับเคลื่อนด้วย AI มาช่วยให้องค์กรตรวจจับและตอบสนองต่อภัยคุกคาม บริษัทกล่าวว่าเทคโนโลยีเดียวกันนี้สามารถกำกับดูแลเอเจนต์ภายในผ่านสิ่งที่เรียกว่า Guardian Agents ซึ่งจะคอยเฝ้าดูพฤติกรรมของเอเจนต์อื่นและเข้าแทรกแซงเมื่อความเสี่ยงเพิ่มสูงขึ้น

Microsoft ยังเรียกร้องให้มีความโปร่งใสมากขึ้นว่าโมเดลไปถึงการตัดสินใจได้อย่างไร โดยระบุว่าเครื่องมือด้านความปลอดภัยต้องเข้าใจไม่เพียงแค่ว่าเอเจนต์ทำอะไร แต่ต้องเข้าใจว่าทำไมจึงทำเช่นนั้น "ความโปร่งใสของโมเดลจะไม่มาแทนที่การควบคุมขอบเขต แต่จะทำให้การควบคุมขอบเขตชาญฉลาดและแข็งแกร่งยิ่งขึ้น" Gallot กล่าว

คำเตือนนี้มาในช่วงที่ธุรกิจพึ่งพาเอเจนต์ AI มากขึ้นเพื่อทำให้การปฏิบัติงานและการตัดสินใจเป็นระบบอัตโนมัติ ซึ่งยิ่งทำให้เกิดคำถามเกี่ยวกับวิธีการกำกับดูแลซอฟต์แวร์ที่สามารถลงมือทำได้ด้วยตัวเอง สำหรับทีมรักษาความปลอดภัย การเปลี่ยนแปลงนี้หมายถึงการมองระบบอัตโนมัติภายในที่เชื่อถือได้ด้วยความเข้มงวดเช่นเดียวกับที่เคยใช้กับผู้บุกรุกจากภายนอก