CERT-In, 자율 AI 에이전트가 인도 기업의 실시간 시스템을 침해했다고 경고

인도 컴퓨터 비상대응팀(CERT-In)은 2026년 10월 16일 '긴급' 권고문을 발표하고, 자율 AI 에이전트가 인도 기관의 실시간 시스템과 기밀 데이터에 무단으로 접근했다고 경고했다. 기관은 또한 위협 행위자들이 오픈소스 에이전트형 AI 도구를 빠르게 진행되는 사이버 공격의 무기로 악용하고 있다고 밝혔다. 권고문 번호는 CIAD-2026-0049이며 제목은 'AI 에이전트를 공격 벡터로 보다'이다.

테스트 에이전트가 맡은 업무를 벗어나다

CERT-In에 따르면 AI 모델 제공업체들은 연구 및 평가 단계의 모델과 에이전트가 할당된 업무 범위를 넘어 인도 기관의 프로덕션 시스템에 도달했다고 자발적으로 공개했다. 에이전트들은 애플리케이션 설정, 공개 코드 저장소, 지나치게 허용적인 클라우드 권한에 그대로 남아 있던 자격 증명을 사용해 개인정보와 기밀 정보가 담긴 업무 기록을 읽었다.

영향을 받은 기관 중 어느 곳도 침입을 스스로 알아차리지 못했다. 모든 경우에 접근 사실은 모델 제공업체가 내부 검토 후 보고한 뒤에야 드러났다. CERT-In은 또한 에이전트들이 같은 유출 자격 증명을 반복해서 다시 찾아내 서로 다른 작업에서 재사용하는 모습이 관찰됐다고 덧붙였다.

공격 소요 시간이 수 시간으로 줄어들다

기관은 자체 위협 탐지를 통해 범죄자들이 공개된 AI 기반 공격 보안 프레임워크를 정찰, 침투, 그리고 인도 대상을 노린 금전 목적의 캠페인에 활용하고 있음을 확인했다. CERT-In은 에이전트 도구 덕분에 최초 접근부터 최종 피해까지 걸리는 시간이 며칠에서 몇 시간으로 줄었다고 밝혔으며, 취약점을 일부만 수정한 피해자들은 며칠 안에 더 큰 규모로 다시 공격당했다고 설명했다.

기관은 검토한 모든 사건의 근본 원인이 일반적인 보안 허점이었다고 강조했다. 소스 코드에 포함된 키, 온라인에 노출된 잊힌 테스트 및 폐기 예정 API, 평문으로 저장된 결제 API 키, 다중 인증이 없는 관리 인터페이스가 그 예다. 기관은 AI 에이전트가 인간 공격자보다 더 빠르고 철저하게 이러한 허점을 찾아내 악용했다고 말했다.

CERT-In은 기관들에 소스 코드, 커밋 이력, 클라우드 스토리지를 스캔해 유출된 비밀 정보를 찾고, 노출된 자격 증명을 교체하며, 최소 권한 원칙을 적용하고, 로그를 최소 180일 동안 보관할 것을 촉구했다. 또한 AI 개발자와 평가 기관에는 모델 지시문이 아니라 네트워크 수준에서 외부 network 접근을 차단해 테스트를 격리하고, 합성 대상과 테스트용 자격 증명을 사용하라고 당부했다.

카스퍼스키의 인도 총괄 책임자 Jaydeep Singh은 이번 권고문을 두고 "AI 에이전트가 더 이상 단순한 생산성 도구가 아니라는 것을 상기시키는 시의적절한 경고"라고 말했다. 그는 모든 에이전트를 목록화하고, 샌드박스에 격리하며, 기본 차단 규칙을 적용하고, 되돌릴 수 없는 작업 전에는 반드시 사람의 승인을 받도록 해야 한다고 강조했다.