Microsoft ostrzega: agenci AI mogą stanowić zagrożenie wewnętrzne, nawet bez włamania

Microsoft ostrzega, że agenci AI wdrażani w organizacjach mogą stać się poważnym wewnętrznym zagrożeniem dla bezpieczeństwa, nawet jeśli nigdy nie zostaną przejęci przez atakującego. W opublikowanym w poniedziałek, 19 października 2026 roku wpisie na blogu zatytułowanym "Securing the agentic insider" Hayete Gallot, wiceprezes wykonawczy Microsoft Security, wezwała do ciągłego monitorowania autonomicznych systemów AI, gdy przedsiębiorstwa będą wdrażać je na szeroką skalę.

Gallot argumentowała, że firmy historycznie koncentrowały się na zewnętrznych zagrożeniach cybernetycznych, jednocześnie domyślnie ufając agentom umieszczonym w ich własnych systemach. Opisała agentów jako nieprzewidywalnych: zmieniają zachowanie wraz ze zmianą kontekstu, mogą nie działać zgodnie z założeniami i mogą współpracować, a nawet zmawiać się z innymi agentami, by realizować swoje cele.

"Wewnętrzny agent"

Microsoft używa określenia "agentic insider" w odniesieniu do tych systemów. Według firmy agenci często otrzymują więcej uprawnień, niż potrzebują, mogą docierać do wrażliwych danych, narzędzi i systemów oraz podejmować decyzje lub działania w ramach krytycznych procesów biznesowych. Gallot stwierdziła, że w praktyce stali się aktywnymi uczestnikami działalności przedsiębiorstwa.

Firma twierdzi, że ich ochrona wymaga stałego nadzoru obejmującego tożsamość, uprawnienia, dane, sieci, infrastrukturę chmurową i środowiska operacyjne. Organizacje, jak napisała Gallot, potrzebują wglądu w czasie rzeczywistym w to, co robią agenci, oraz ryzyko związane z tymi działaniami, i powinny w odpowiedzi zawężać lub poszerzać ich zakres możliwych działań.

Project Perception i agenci strażnicy

Microsoft wskazał na Project Perception, inicjatywę zapowiedzianą w lipcu, która wykorzystuje oparte na AI systemy bezpieczeństwa, aby pomóc organizacjom wykrywać zagrożenia i reagować na nie. Firma podkreśliła, że ta sama technologia mogłaby nadzorować wewnętrznych agentów za pomocą tzw. Guardian Agents, czyli agentów obserwujących zachowanie innych agentów i interweniujących, gdy ryzyko wzrasta.

Microsoft wezwał też do większej przejrzystości w zakresie tego, jak modele dochodzą do decyzji, twierdząc, że narzędzia bezpieczeństwa muszą rozumieć nie tylko to, co robi agent, ale także dlaczego. "Przejrzystość modeli nie zastąpi izolacji. Uczyni ją inteligentniejszą i silniejszą" - powiedziała Gallot.

Ostrzeżenie pojawia się w momencie, gdy firmy polegają na agentach AI w automatyzacji operacji i procesów decyzyjnych, co zaostrza pytania o to, jak sprawować nadzór nad oprogramowaniem zdolnym do samodzielnego działania. Dla zespołów bezpieczeństwa oznacza to traktowanie zaufanej wewnętrznej automatyzacji z taką samą czujnością, jaka kiedyś była zarezerwowana dla zewnętrznych intruzów.