FBI 문서로 드러난 AI: 테러의 도구이자 미국 극단주의자들의 표적

미국 법집행기관들은 인공지능을 잠재적 테러리스트의 수단이자 표적으로 보고 수년간 대응해 온 것으로 나타났다. 정부 투명성 비영리단체 '프로퍼티 오브 더 피플(Property of the People)'이 입수하고 2026년 10월 14일 보도한 내부 문서 80여 건은 2021년부터 2026년 사이에 유통된 것으로, FBI, 국토안보부(DHS), 뉴욕시경찰국(NYPD)의 자료가 포함되어 있다.

FBI 로스앤젤레스 지부가 2026년 5월 배포한 한 메모는 2025년 5월 팜스프링스의 한 불임클리닉 앞에서 일어난 차량 폭탄 테러를 다룬다. 당시 25세 공격자는 스스로 목숨을 끊었고 4명이 부상했다. 메모에 따르면 그는 이름이 밝혀지지 않은 생성형 AI 도구에 폭탄 제조법을 문의했으나, 도구는 이 요청을 걸러내지 못했다.

불충분한 안전장치

수사관들은 챗봇 대화가 비공개로 이루어진 탓에 경찰이 사전에 인지하지 못했다고 기록했다. FBI는 앞으로도 이런 사례가 늘어날 것으로 보고 있다. 메모는 "위협 행위자들이 공격 계획에 생성형 AI 도구를 사용하는 경향이 더욱 커질 가능성이 높다"고 경고했다. 또한 악의적 사용자들이 탈옥(jailbreaking) 기법으로 위험한 정보를 빼내는 탓에 내장된 보호 장치가 충분하지 않다고 덧붙였다.

다른 문서들은 극단주의자들이 AI를 활용해 공격을 계획하고 조직원을 모집하는 방법, 그리고 이 기술이 딥페이크, 선거 허위정보, 아동 성착취물을 생성할 수 있는 가능성을 검토하고 있다. 기관들은 또한 소셜미디어 모니터링 등 치안 업무에 AI를 도입하는 방안을 논의하면서, 이러한 도구에 대한 대중의 우려를 어떻게 다룰지도 함께 고민했다.

반데이터센터 정서 주시

두 번째 우려는 극단주의자들이 기술 인프라를 겨냥하는 상황과 관련된다. 전국의 융합정보센터(fusion center)들은 소셜 플랫폼, 메신저 앱, 4chan 같은 포럼에서 데이터센터를 파괴하겠다고 공언하는 게시물들을 포착했다. 2021년 10월 DHS, 국가대테러센터(NCTC), FBI가 공동으로 작성한 분석에서는 아마존 웹 서비스 시설에 폭탄을 설치하려 한 혐의로 10년형을 선고받은 극우 민병대원 세스 펜들리(Seth Pendley)의 사례가 인용됐다.

DHS는 악의적 행위자들이 사이버 공격, 사기, 폭력적 극단주의 선전 등 기존의 피해를 AI로 증폭시킬 수 있다고 평가하고 있다고 밝혔다. NYPD는 자체 AI 위협 보고서가 여러 AI 연구자들의 예측으로 널리 논의되어 온 'AI 2027'을 요약했다고 밝혔다. FBI는 구체적인 질문에 답하지 않았고, 대신 기술 사용에 관한 일반 설명 자료를 안내했다.

이 기록들은 장기적인 치명적 위험을 공개적으로 자주 언급하는 AI 기업 경영진과, 현재 실제로 벌어지는 오용을 다루는 경찰 사이의 간극을 보여준다. 이는 모델 안전장치가 실제로 얼마나 효과적인지, 그리고 당국이 AI에 반대하는 온라인 움직임을 어디까지 감시해야 하는지에 대한 논쟁을 더욱 가열시킬 것으로 보인다.