애플, 앱스토어 심사 규정 개정으로 AI 누드 생성 앱 금지

애플은 2026년 10월 16일 앱스토어 심사 가이드라인을 개정하고, 동의 없이 사람의 성적 또는 누드 이미지를 만드는 데 쓰일 수 있는 앱에 대한 새로운 제한을 도입했다고 밝혔다. 개정안은 AI로 생성한 가짜 이미지를 명시적으로 포함하며, 규정을 지키지 못한 개발자에게는 앱스토어 퇴출을 포함한 제재를 명문화했다.

애플은 음란물을 생성하는 앱이 이미 금지되어 있었다고 설명하면서도, 새로운 안전 의무를 추가한다고 밝혔다. 이번 개정은 콘텐츠 관리, 앱 심사를 우회하려는 시도, 아동 착취 등 세 가지 영역에 걸쳐 있다.

사후 대응에서 사전 관리로

개정된 가이드라인 1.2에 따르면, 사용자 생성 콘텐츠를 호스팅하는 앱은 비동의 성적 이미지를 적극적으로 막고, 발견된 이미지는 모두 삭제해야 한다. 사용자 신고가 접수된 뒤에만 조치하는 방식은 더 이상 충분하지 않다. 애플은 적절한 안전장치를 갖추지 않았거나 위반 신고를 방치하는 개발자는 앱이 삭제될 위험이 있다고 밝혔다.

가이드라인 2.5.19의 두 번째 변경은 심사 당시에는 없던 기능을 승인 후에 추가하는 행위를 명시적으로 금지한다. 애플은 처음에는 무해해 보이다가 나중에 사진 속 사람의 옷을 디지털로 벗겨내는 기능을 추가하는 이른바 '미끼 후 변경(bait-and-switch)' 앱을 겨냥하고 있다. 해당 앱은 삭제될 수 있으며, 개발자의 Apple Developer Program 멤버십도 해지될 수 있다.

가이드라인 5장에 담긴 세 번째 변경은 인신매매나 아동 착취를 조장하는 앱을 다룬다. 아동 성적 학대물을 포함한 앱은 삭제되며, 애플은 이러한 앱이 대체 앱 배포 채널을 통해 제공되는 것도 차단하겠다고 밝혔다.

그록 논란 이후의 압박

이번 규정은 1년 가까이 이어진 AI 성적 딥페이크에 대한 비판의 연장선에 있다. X의 AI 도구 그록(Grok)이 동의 없이 사람의 성적 이미지를 만드는 데 사용되면서 분노가 커졌지만, 애플은 X와 그록을 앱스토어에 그대로 두었다. 애플은 미국 상원의원들에게 보낸 답변에서 그록이 삭제될 수 있다고 경고했다고 밝혔으며, 2026년 6월 WWDC에서는 시위대가 해당 앱들을 내려야 한다고 요구하기도 했다.

7월에는 샌프란시스코 시티 어토니 데이비드 추(David Chiu)가 애플과 구글에 서한을 보내, 동의 없는 누드 이미지를 생성할 수 있는 앱 13개의 삭제를 요청했다. 애플은 세 개를 삭제하고 관련 개발자 계정을 폐쇄하기 시작했다고 확인했으며, 구글은 Play 스토어에서 안드로이드 앱 5개를 제거했다. 애플은 또한 지난해 안전 문제가 있는 앱 15만 개 이상이 사용자에게 도달하지 못하도록 막았고, 사기 및 악용을 이유로 19만 3천 개가 넘는 개발자 계정을 해지했다고 밝혔다.