Microsoft попереджає: ШІ-агенти можуть стати загрозою інсайдера, навіть без зламу

Microsoft попередила, що ШІ-агенти, які розгортаються всередині організацій, можуть стати серйозними внутрішніми ризиками для безпеки, навіть якщо зловмисник їх ніколи не зламає. У блог-пості під назвою «Securing the agentic insider», опублікованому в понеділок, 19 жовтня 2026 року, Хайєт Галлот, віцепрезидентка Microsoft Security, закликала постійно моніторити автономні ШІ-системи, оскільки підприємства впроваджують їх дедалі ширше.

Галлот стверджувала, що компанії історично зосереджувалися на зовнішніх кіберзагрозах, неявно довіряючи агентам, яких вони впроваджують у власні системи. Вона описала агентів як непередбачуваних: їхня поведінка змінюється разом із контекстом, вони можуть діяти не так, як задумано, і можуть співпрацювати або навіть таємно домовлятися з іншими агентами, щоб досягти своїх цілей.

«Агентний інсайдер»

Microsoft використовує термін «agentic insider» для позначення таких систем. За словами компанії, агентам часто надають більше привілеїв, ніж їм потрібно, вони можуть отримувати доступ до конфіденційних даних, інструментів і систем, а також ухвалювати рішення чи виконувати дії в межах критично важливих бізнес-процесів. Галлот сказала, що фактично вони стали активними учасниками роботи підприємства.

Компанія заявляє, що їх захист потребує постійного нагляду, який охоплює ідентифікацію, дозволи, дані, мережі, хмарну інфраструктуру та операційні середовища. Організаціям, написала Галлот, потрібне розуміння в режимі реального часу того, що роблять агенти, і ризиків, які несуть ці дії, а також вони мають посилювати або послаблювати свої можливості діяти у відповідь.

Project Perception і Guardian Agents

Microsoft згадала Project Perception, ініціативу, оголошену в липні, яка застосовує ШІ-системи безпеки для допомоги організаціям у виявленні загроз і реагуванні на них. Компанія сказала, що та сама технологія може наглядати за внутрішніми агентами за допомогою так званих Guardian Agents, які стежать за поведінкою інших агентів і втручаються, коли ризик зростає.

Microsoft також закликала до більшої прозорості щодо того, як моделі приходять до рішень, наголосивши, що інструменти безпеки повинні розуміти не лише те, що робить агент, а й чому. «Прозорість моделей не замінить стримування. Вона зробить стримування розумнішим і сильнішим», – сказала Галлот.

Це попередження з'являється тоді, коли бізнес покладається на ШІ-агентів для автоматизації операцій і ухвалення рішень, що загострює питання про те, як зберігати контроль над програмним забезпеченням, здатним діяти самостійно. Для команд безпеки це означає, що довірену внутрішню автоматизацію потрібно перевіряти з такою ж пильністю, яку раніше приберігали для зовнішніх зловмисників.