Microsoft warnt: KI-Agenten können auch ohne Hackerangriff zur internen Bedrohung werden

Microsoft warnt, dass in Unternehmen eingesetzte KI-Agenten zu ernsthaften internen Sicherheitsrisiken werden können, selbst wenn sie nie von einem Angreifer infiltriert wurden. In einem Blogbeitrag mit dem Titel "Securing the agentic insider", der am Montag, dem 19. Oktober 2026, veröffentlicht wurde, fordert Hayete Gallot, Executive Vice President von Microsoft Security, eine kontinuierliche Überwachung autonomer KI-Systeme, da Unternehmen sie zunehmend einsetzen.

Gallot argumentiert, dass Unternehmen sich bisher vor allem auf externe Cyberbedrohungen konzentriert und den Agenten, die sie in ihre eigenen Systeme integrieren, stillschweigend vertraut haben. Agenten beschreibt sie als unberechenbar: Sie verändern ihr Verhalten mit dem Kontext, handeln möglicherweise nicht wie vorgesehen und können mit anderen Agenten zusammenarbeiten oder sogar gemeinsame Sache machen, um ihre Ziele zu erreichen.

Der "agentische Insider"

Microsoft bezeichnet diese Systeme als "agentic insider". Laut dem Unternehmen erhalten Agenten häufig mehr Berechtigungen, als sie benötigen, können auf sensible Daten, Werkzeuge und Systeme zugreifen und innerhalb kritischer Geschäftsprozesse Entscheidungen treffen oder Aktionen ausführen. Gallot sagt, sie seien damit faktisch zu aktiven Teilnehmern im Unternehmen geworden.

Der Konzern erklärt, dass ihr Schutz eine fortlaufende Aufsicht erfordert, die Identitäten, Berechtigungen, Daten, Netzwerke, Cloud-Infrastruktur und Betriebsumgebungen umfasst. Unternehmen benötigen laut Gallot Echtzeit-Einblick in das, was Agenten tun, und in die Risiken dieser Handlungen, und sollten ihre Handlungsspielräume je nach Lage gezielt einschränken oder erweitern.

Project Perception und Guardian Agents

Microsoft verweist auf Project Perception, eine im Juli angekündigte Initiative, die KI-gestützte Sicherheitssysteme einsetzt, um Unternehmen beim Erkennen und Abwehren von Bedrohungen zu unterstützen. Dieselbe Technologie könne interne Agenten über sogenannte Guardian Agents beaufsichtigen, die das Verhalten anderer Agenten beobachten und eingreifen, wenn das Risiko steigt, so das Unternehmen.

Microsoft fordert zudem mehr Transparenz darüber, wie Modelle zu Entscheidungen gelangen. Sicherheitswerkzeuge müssten nicht nur erfassen, was ein Agent tut, sondern auch warum. "Modelltransparenz wird Eindämmung nicht ersetzen. Sie wird Eindämmung klüger und stärker machen", sagt Gallot.

Die Warnung kommt zu einer Zeit, in der Unternehmen KI-Agenten zunehmend zur Automatisierung von Abläufen und Entscheidungsprozessen nutzen, was die Frage verschärft, wie sich Software, die selbstständig handeln kann, weiterhin kontrollieren lässt. Für Sicherheitsteams bedeutet dieser Wandel, vertrauenswürdige interne Automatisierung mit derselben Skepsis zu betrachten, die bisher externen Eindringlingen galt.