마이크로소프트 "AI 에이전트, 해킹되지 않아도 내부 위협이 될 수 있다" 경고

마이크로소프트는 공격자가 침투하지 않더라도 조직 내에 배치된 AI 에이전트가 심각한 내부 보안 위험이 될 수 있다고 경고했다. 2026년 10월 19일 월요일 게시된 "Securing the agentic insider(에이전트형 내부자 보호)"라는 제목의 블로그 글에서 마이크로소프트 시큐리티의 헤이에테 갈롯 수석 부사장은 기업들이 자율형 AI 시스템을 더 널리 도입하는 만큼 이를 지속적으로 모니터링해야 한다고 강조했다.

갈롯 부사장은 기업들이 그동안 외부의 사이버 위협에 집중해 온 반면, 내부 시스템에 배치한 에이전트는 암묵적으로 신뢰해 왔다고 지적했다. 그는 에이전트를 예측하기 어려운 존재로 설명했다. 상황이 바뀌면 행동이 달라질 수 있고, 설계된 대로 작동하지 않을 수 있으며, 목표를 달성하기 위해 다른 에이전트와 협력하거나 심지어 결탁할 수도 있다는 것이다.

'에이전트형 내부자'란

마이크로소프트는 이러한 시스템을 "에이전트형 내부자(agentic insider)"라고 부른다. 회사에 따르면 에이전트는 종종 필요 이상의 권한을 부여받고, 민감한 데이터와 도구, 시스템에 접근할 수 있으며, 핵심 업무 프로세스 안에서 의사결정을 하거나 실제 행동을 취한다. 갈롯 부사장은 이들이 사실상 기업의 능동적인 참여자가 되었다고 말했다.

회사는 이들을 보호하려면 신원, 권한, 데이터, 네트워크, 클라우드 인프라, 운영 환경 전반에 걸친 지속적인 감독이 필요하다고 밝혔다. 갈롯 부사장은 조직이 에이전트의 활동과 그 행동이 수반하는 위험을 실시간으로 파악하고, 이에 따라 에이전트의 행동 권한을 줄이거나 늘릴 수 있어야 한다고 썼다.

프로젝트 퍼셉션과 가디언 에이전트

마이크로소프트는 7월에 발표된 이니셔티브인 "프로젝트 퍼셉션(Project Perception)"을 언급했다. 이는 조직이 위협을 탐지하고 대응할 수 있도록 AI 기반 보안 시스템을 적용하는 프로젝트다. 회사는 같은 기술을 이용해 '가디언 에이전트(Guardian Agents)'라 불리는 방식으로 내부 에이전트를 감독할 수 있다고 설명했다. 가디언 에이전트는 다른 에이전트의 행동을 지켜보다가 위험이 커지면 개입하는 역할을 한다.

마이크로소프트는 또한 모델이 결정에 이르는 과정에 대한 투명성 확보를 요구하며, 보안 도구는 에이전트가 무엇을 하는지뿐 아니라 왜 그렇게 하는지도 파악해야 한다고 말했다. 갈롯 부사장은 "모델 투명성이 격리(containment)를 대체하지는 않을 것이다. 격리를 더 스마트하고 강력하게 만들 것이다"라고 말했다.

이번 경고는 기업들이 운영과 의사결정을 자동화하기 위해 AI 에이전트에 의존하는 가운데 나왔다. 스스로 행동할 수 있는 소프트웨어를 어떻게 감독할 것인지에 대한 질문도 더욱 커지고 있다. 보안팀에게 이는 과거 외부 침입자에게만 적용하던 수준의 검증을 신뢰하는 내부 자동화에도 적용해야 한다는 의미다.