Microsoft предупреждает: ИИ-агенты могут стать внутренней угрозой даже без взлома

Microsoft предупредила, что ИИ-агенты, внедренные в организациях, могут стать серьезной внутренней угрозой безопасности, даже если злоумышленники никогда не получат к ним доступ. В блоге под названием «Securing the agentic insider», опубликованном в понедельник, 19 октября 2026 года, исполнительный вице-президент Microsoft Security Хайете Галлот призвала непрерывно контролировать автономные ИИ-системы по мере их более широкого внедрения компаниями.

Галлот отметила, что компании исторически сосредотачивались на внешних киберугрозах, неявно доверяя агентам, которых они размещают внутри своих систем. По ее словам, агенты непредсказуемы: их поведение меняется вместе с контекстом, они могут действовать не так, как задумано, и способны сотрудничать или даже вступать в сговор с другими агентами ради достижения своих целей.

«Агентный инсайдер»

Microsoft использует для таких систем термин «agentic insider». По данным компании, агентам часто предоставляют больше привилегий, чем необходимо, они могут получать доступ к чувствительным данным, инструментам и системам, а также принимать решения и совершать действия в рамках критически важных бизнес-процессов. Галлот заявила, что по сути они стали активными участниками работы предприятия.

Компания утверждает, что их защита требует постоянного контроля, охватывающего идентификацию, права доступа, данные, сети, облачную инфраструктуру и операционную среду. Организациям, по словам Галлот, необходим аналитический обзор в реальном времени того, что делают агенты, и рисков, которые несут их действия, а также возможность в ответ ужесточать или расширять их полномочия.

Project Perception и Guardian Agents

Microsoft указала на Project Perception, инициативу, анонсированную в июле, которая применяет системы безопасности на основе ИИ для помощи организациям в выявлении угроз и реагировании на них. Компания заявила, что та же технология может контролировать внутренних агентов с помощью так называемых Guardian Agents, которые наблюдают за поведением других агентов и вмешиваются, когда риск возрастает.

Microsoft также призвала к большей прозрачности в том, как модели приходят к решениям, заявив, что инструменты безопасности должны понимать не только что делает агент, но и почему. «Прозрачность модели не заменит сдерживание. Она сделает сдерживание умнее и сильнее», — сказала Галлот.

Предупреждение прозвучало на фоне того, как бизнес все активнее полагается на ИИ-агентов для автоматизации операций и принятия решений, что обостряет вопросы о том, как сохранять контроль над программным обеспечением, способным действовать самостоятельно. Для служб безопасности это означает необходимость относиться к доверенной внутренней автоматизации с тем же вниманием, которое раньше уделялось внешним злоумышленникам.