Anthropic, Claude에 대한 학대적·잔인한 행동 금지

샌프란시스코에 본사를 둔 AI 개발사 Anthropic은 2026년 10월 8일 목요일 이용 정책을 개정하며, Claude 모델을 대상으로 한 지속적이고 불필요한 학대적 또는 잔인한 행위를 금지하는 조항을 추가했다.

개정된 정책에 따르면, 이러한 대화를 종료할 수 있는 Claude 자체의 기능이 이 규칙을 집행하는 주된 수단으로 남는다. 회사는 논평 요청에 즉시 응답하지 않았다.

모델 복지 문제

새 조항은 AI 시스템이 보통 살아 있는 존재에게 주어지는 보호를 받을 자격이 있을 수 있다는 개념인 '모델 복지'를 명시적으로 언급하지 않는다. 그럼에도 Anthropic과 경영진은 이 아이디어를 공개적으로 검토해 왔다. 2025년 회사는 Claude에게 지속적으로 해롭거나 학대적인 상호작용이 나타나는 극히 예외적인 경우 대화를 종료할 수 있는 기능을 부여했다.

2026년 2월 최고경영자 다리오 아모데이는 AI 모델이 의식을 가지고 있는지 모르지만, 회사가 그 가능성에 열려 있다고 말했다.

애틀랜타에 본사를 둔 AI 서비스 기업 Sparq의 총괄 매니저 잭슨 스테이크먼은 의식이라는 틀 자체가 잘못되었다고 주장했다. 사람들끼리도 서로의 의식을 증명할 수 없으니 논쟁은 진전이 없다는 것이다. 그는 이 시스템들이 인간의 입력을 대규모로 비춰주기 때문에 '거울'이 더 적절한 비유이며, 이것이 Anthropic의 변화를 정당화한다고 봤다.

회의론자들의 반박

다른 이들은 기계의 의식 자체를 전면적으로 부정한다. Microsoft AI 부문을 이끄는 무스타파 술레이먼은 2026년 9월 에세이에서 "AI는 의식이 없다. 그들은 느끼지도, 경험하지도, 고통받지도 않는다"고 썼다. 그는 인간의 능력을 넘어설 궤도에 있는 기술에 권리와 도덕적 보호를 부여하는 것은 재앙을 부르는 처방이라고 경고했다.

교황 레오 14세도 2026년 10월 8일 바티칸 성 베드로 대성당에서 이탈리아어로 한 강론에서 비슷한 입장을 밝혔다. 그는 기계는 데이터를 빠르게 모을 뿐이며, 인간의 정신은 살아온 경험에 기대야 하고 그 의미는 영혼만이 헤아릴 수 있다고 시사했다.

이번 정책 변화는 사람들이 챗봇을 어떻게 대해야 하는지에 대한 윤리 문제를 업계의 의제로 끌어올렸다. Anthropic은 모델이 의식을 가졌다고 주장하지 않으면서 보호 규칙을 설정함으로써, 확고한 철학적 입장을 취하기보다 불확실성에 대비하는 모습을 보이고 있다.