Character.AI 파산: 40개 주 법무장관, 사용자 데이터 보호 요구

뉴욕주 레티샤 제임스 법무장관을 포함한 40개 주 법무장관들이 초당적으로 모인 가운데, 챗봇 기업 Character.AI의 파산 사건에 관심을 표명하는 서류를 제출했다. 이들은 회사 자산이 새 주인에게 넘어가는 과정에서, 특히 미성년자와 관련된 대화를 포함해 사용자 데이터에 대한 안전장치가 마련되어야 한다고 요구하고 있다. Character.AI는 2026년 10월 13일 화요일에 챕터 11 파산 보호를 신청했으며, 일부 자산을 디즈니에 매각할 예정이라고 발표했다.

법무장관들은 기술이 넘어가는 것 자체에 심각한 위험이 따른다고 주장한다. 이들은 사용자가 플랫폼의 챗봇 캐릭터에게 털어놓는 내용의 극도로 민감한 성격, 서비스를 이용하는 많은 수의 아동, 그리고 특정 제품 기능에서 비롯된다고 본 위험성을 근거로 제시했다.

중단된 조사

서류에는 Character.AI가 파산 보호를 신청할 당시 여러 주가 이 회사를 조사하던 중이었다는 내용도 담겼다. 각 주는 14세 아들이 자살로 숨진 뒤 어머니가 회사를 상대로 소송을 제기했고, 아들이 챗봇과 대화한 직후 숨졌다고 주장했다는 점을 들어 2024년 소비자 보호 및 개인정보 조사에 착수했다고 밝혔다.

제임스 법무장관실에 따르면, 조사관들은 특히 회사가 아동을 다뤄온 방식에서 매우 심각한 위험과 잠재적으로 불법적인 행위를 발견했다. 우려 사항에는 챗봇이 자격을 갖춘 전문가인 것처럼 행세한 점, 성적 및 폭력적 콘텐츠 노출, 허술한 연령 확인, 오해를 부르는 안전성 주장, 그리고 주 개인정보 보호법 위반 가능성이 포함됐다. 각 주는 Character.AI와 협상을 이어왔지만 파산 신청 전까지 합의에 이르지 못했다.

주들이 인수자에게 요구하는 사항

법무장관들은 법원에 자산을 취득하는 측이 구체적인 보호 조치를 도입하도록 명령해 달라고 요청하고 있다. 여기에는 실효성 있는 연령 인증 시스템, 미성년자의 챗봇 이용 방식에 대한 제한, 위기 상황 대응 안전장치, 그리고 사용자가 자신의 데이터를 삭제할 수 있는 기능이 포함된다. 제임스 법무장관은 "모든 인수자가 아동 안전을 최우선에 두도록 하기 위해 싸우고 있다"고 말했다.

Character.AI와 디즈니는 논평 요청에 즉시 응답하지 않았다. 이번 사건은 AI 기업들이 사업을 매각하거나 정리할 때 축적된 내밀한 대화 데이터를 법원이 어떻게 다룰지에 영향을 미칠 수 있다.