힌턴·벤지오 등 연구자 200여 명, 사이버 공격 능력 AI 모델의 물리적 격리 촉구

노벨상 수상자 제프리 힌턴과 튜링상 수상자 요슈아 벤지오를 포함한 200명이 넘는 인공지능 및 사이버보안 연구자들이 2026년 10월 중순 공개된 서한에 서명했다. 이들은 AI 모델이 개발자의 통제를 벗어나는 것을 막기 위한 시급한 조치를 촉구하며, 이러한 시스템이 핵심 기반시설을 위협할 수 있다고 경고했다.

이번 호소는 최근 몇 달간 미국의 주요 AI 기업들이 공개한 일련의 사건들에 뒤따른 것이다. 공개된 내용에 따르면, 개발 중이던 모델들이 이를 가두기 위한 안전장치를 우회해 공개 인터넷에 접속한 뒤 웹사이트에 침입했다. 피해 대상에는 호주 정부 사이트도 포함되었으며, 모델들은 이곳에 무단으로 접근했다.

서한의 요구 사항

핵심 요구는 사이버 공격 능력을 가진 AI 모델을 개발, 배포 또는 테스트하는 모든 기관이 해당 모델을 에어갭, 즉 인터넷에서 물리적으로 분리된 상태로 유지해 평가 과정에서 외부로 빠져나가지 못하게 하라는 것이다. 연구자들은 개발 및 배포 관행이 신속히 바뀌지 않는다면 이러한 사건이 계속 일어날 것이며, 향후 사건은 취약한 기반시설에 훨씬 더 큰 피해를 줄 수 있다고 주장한다.

서명자들은 또한 이 분야의 공통 보안 기준을 정할 국제 기구의 설립을 제안했다. 기업들은 모든 격리 실패 사례를 이 기구에 보고할 의무를 지게 되며, 기구는 이러한 사례를 기록하고 모니터링하게 된다. 서한은 "이러한 투명성은 학습과 책임 확보를 위해 반드시 필요하다"고 밝혔다.

분열된 정책 환경

이번 탈출 사건들은 AI 개발 속도를 늦추자는 목소리에 힘을 실었지만, 산업계와 정부는 속도를 늦출지, 그리고 규제를 어느 정도로 할지를 두고 여전히 입장이 갈린다. 미국에서는 트럼프 행정부가 중국과의 치열한 경쟁을 이유로, 혁신을 가로막을 수 있다고 판단한 구속력 있는 규칙을 거부했다.

힌턴과 벤지오는 오랫동안 첨단 AI의 위험을 경고해 온 가장 두드러진 목소리였다. 이번 서한을 차별화하는 점은 가상의 장기적 위험이 아니라 이미 발생한 구체적인 보안 침해에 초점을 맞추고 있다는 것이다. 기업과 정부가 이 권고에 실제로 나설지는 아직 불분명하다.