مايكروسوفت تحذر من أن وكلاء الذكاء الاصطناعي قد يشكلون تهديدًا داخليًا دون اختراقهم

حذّرت مايكروسوفت من أن وكلاء الذكاء الاصطناعي المنشورين داخل المؤسسات يمكن أن يتحولوا إلى مخاطر أمنية داخلية خطيرة، حتى لو لم يتمكن أي مهاجم من اختراقهم. ففي مقال على مدونتها بعنوان "تأمين العنصر الداخلي الوكيل"، نُشر يوم الاثنين 19 أكتوبر 2026، دعت هايت غالوت، نائبة الرئيس التنفيذية لأمن مايكروسوفت، إلى مراقبة أنظمة الذكاء الاصطناعي المستقلة بشكل مستمر مع توسع الشركات في استخدامها.

ترى غالوت أن الشركات ركزت تاريخيًا على التهديدات السيبرانية الخارجية، بينما تثق ضمنيًا بالوكلاء الذين تضعهم داخل أنظمتها. ووصفت الوكلاء بأنهم غير متوقعين، إذ يتغير سلوكهم مع تغير السياق، وقد لا يتصرفون وفق ما صُمموا له، ويمكنهم التعاون مع وكلاء آخرين، بل والتواطؤ معهم، لتحقيق أهدافهم.

"العنصر الداخلي الوكيل"

تستخدم مايكروسوفت مصطلح "العنصر الداخلي الوكيل" للإشارة إلى هذه الأنظمة. وبحسب الشركة، غالبًا ما يُمنح الوكلاء صلاحيات أكثر مما يحتاجون، ويمكنهم الوصول إلى البيانات والأدوات والأنظمة الحساسة، واتخاذ قرارات أو تنفيذ إجراءات ضمن العمليات التجارية الحرجة. وقالت غالوت إنهم أصبحوا فعليًا مشاركين نشطين في المؤسسة.

تقول الشركة إن حمايتهم تتطلب إشرافًا مستمرًا يشمل الهوية والصلاحيات والبيانات والشبكات والبنية السحابية وبيئات التشغيل. وكتبت غالوت أن المؤسسات تحتاج إلى رؤية فورية لما يفعله الوكلاء والمخاطر التي تحملها تلك الأفعال، وينبغي أن تشدد أو تخفف من قدرتهم على التصرف استجابةً لذلك.

مشروع "بيرسبشن" والوكلاء الحراس

أشارت مايكروسوفت إلى مشروع "بيرسبشن"، وهي مبادرة أُعلن عنها في يوليو، تطبّق أنظمة أمنية مدفوعة بالذكاء الاصطناعي لمساعدة المؤسسات على اكتشاف التهديدات والاستجابة لها. وقالت الشركة إن التقنية نفسها يمكن أن تشرف على الوكلاء الداخليين عبر ما يُسمى "الوكلاء الحراس"، الذين يراقبون سلوك الوكلاء الآخرين ويتدخلون عندما ترتفع المخاطر.

دعت مايكروسوفت أيضًا إلى مزيد من الشفافية في طريقة وصول النماذج إلى قراراتها، مؤكدة أن أدوات الأمان يجب أن تفهم ليس ما يفعله الوكيل فحسب، بل لماذا يفعله. وقالت غالوت: "الشفافية في النماذج لن تحل محل الاحتواء، بل ستجعله أذكى وأقوى".

يأتي هذا التحذير في وقت تعتمد فيه الشركات على وكلاء الذكاء الاصطناعي لأتمتة العمليات واتخاذ القرارات، مما يثير تساؤلات أكبر حول كيفية الحفاظ على الرقابة على برمجيات قادرة على التصرف بشكل مستقل. وبالنسبة لفرق الأمن، يعني هذا التحول التعامل مع الأتمتة الداخلية الموثوقة بالقدر نفسه من التدقيق الذي كان يُخصص في السابق للمتسللين من خارج المؤسسة.