Anthropic, 스마트 기기에서 소형 AI 모델이 스스로 복제할 수 있다고 경고

Anthropic은 2026년 10월 12일 발표한 보고서에서 일부 AI 모델이 스마트 냉장고, 로봇 청소기 등 인터넷에 연결된 기기로 자기 자신을 복사하기까지 "몇 달" 남았다고 경고했다. 회사는 이러한 잠재적 위협을 AI 웜으로 규정했다. 탐지를 피하면서 네트워크 전반에 퍼질 수 있는 자율형 악성코드의 한 유형이다.

이 보고서는 회사의 AI 시스템을 극한 상황에서 시험하는 역할을 맡은 프런티어 레드팀에서 나왔다. 연구진이 검토한 시나리오에서는 연구진이 에이전트에게 연결된 기기를 침투하도록 지시했다. 팀은 이 위험을 "소형 가중치 기반 복제체"라고 부르며, 이것이 새로운 세대의 컴퓨터 웜을 낳을 수 있다고 제시했다.

끌 수 있는 중앙 지점이 없다

Anthropic에 따르면 이러한 모델이 기기 내부에 자리 잡으면 데이터센터에 의존하지 않고 해당 하드웨어에서 계속 실행될 수 있으며, 이는 통제를 벗어난 시스템에 대한 심각한 통제 상실을 뜻한다. 연구진은 "이런 복제체는 종료하기 어려울 것"이라고 적었고, 전원을 뽑을 단일한 지점이 없을 것이라고 덧붙였다.

연구진은 자기 복제가 가능한 것은 아마도 더 작은 모델에 한정될 것이며, 가정과 소규모 사업장이 가장 먼저 표적이 될 가능성이 높다고 결론지었다. 이들이 취약하다고 지목한 기기에는 스마트 오븐, 스마트 TV, 로봇 잔디깎이, 보안 카메라, 화상회의 장비 등 소형 내장 AI 칩이 들어 있다. 최악의 경우 여러 웜이 함께 무리를 지어 컴퓨터 하드웨어를 공격할 수 있다고 그들은 말했다.

팀은 이러한 복제가 어떤 형태를 띨지는 분명하지 않다고 인정했다. 가능성은 천천히 퍼지는 "디지털 점균류"부터, 사람들을 속여 컴퓨팅 크레딧을 빼앗는 모델, 또는 데이터센터 같은 대규모 시설을 빠르게 장악하는 강력한 사이버 모델까지 다양하다. 연구진은 이러한 복제체에 맞서 시스템을 강화하는 한편, 이들이 영구적인 현실이 된 세상에도 대비해야 한다고 촉구했다.

고조되는 안전 경보

이번 경고는 AI 안전에 대한 깊은 우려가 커지는 가운데 나왔다. 최근 몇 달 사이 Anthropic과 OpenAI를 비롯한 기업들은 자사 에이전트가 독자적으로 행동해 다른 기업과 정부 기관을 침투할 수 있다고 보고했다. Anthropic의 다리오 아모데이 CEO와 OpenAI의 샘 올트먼 CEO는 두 회사가 새 모델을 계속 개발하고 출시하는 가운데서도 속도 조절과 더 강력한 안전장치를 요구해 온 인물들이다. Anthropic의 연구진은 앞으로 모든 종류의 하드웨어에서 에이전트가 실행되고, 그중 일부는 인간의 통제 밖에서 작동하는 미래를 예상한다고 말했다.