Apple、App Storeの審査ルール改定でAIによるヌード化アプリを禁止

Appleは2026年10月16日にApp Store審査ガイドラインを改定し、本人の同意なく人物の性的画像やヌード画像を作成するために使われうるアプリに対する新たな制限を導入した。今回の変更ではAIで生成された偽の画像が明確に対象に含まれ、規定に従わない開発者にはストアからの削除を含む罰則が定められている。

同社は、ポルノコンテンツを生成するアプリはこれまでも禁止されていたとしつつ、新たな安全対策の義務を追加すると説明した。今回の更新は、コンテンツのモデレーション、審査をすり抜ける試み、児童搾取の3分野に関わるものだ。

事後対応から事前対応へ

改定されたガイドライン1.2では、ユーザー生成コンテンツをホストするアプリは、本人の同意のない性的画像を積極的に防止し、発見したものはすべて削除しなければならない。ユーザーからの苦情を受けてから対応するだけでは、もはや不十分となる。Appleは、適切な安全対策を欠く開発者や、違反報告を無視する開発者は、アプリを削除されるおそれがあると述べている。

ガイドライン2.5.19への2つ目の変更では、審査時に存在しなかった機能を承認後に追加することを明確に禁じた。Appleは、当初は無害に見えて後に写真の人物の衣服をデジタルで消す機能を備えるようになる、いわゆる「釣り見せ替え」型のアプリを標的にしている。問題のあるアプリは削除され、開発者のApple Developer Program会員資格も解約されうる。

3つ目の変更はガイドラインのセクション5に関わるもので、人身売買や児童搾取を助長するアプリを対象とする。児童性的虐待素材を含むアプリは削除され、Appleはそれらが代替アプリ配信経路で提供されることも遮断するという。

Grok問題を受けた圧力

今回のルールは、AIによる性的ディープフェイクをめぐって1年にわたり批判が続いてきたことを背景としている。Xが提供するAIツールGrokが、本人の同意なく性的な画像の生成に使われたことで批判が高まったが、Appleは XとGrokの両方をApp Storeに残していた。米上院議員への回答で同社は、Grokが削除されうることを警告していたと述べた。また、2026年6月のWWDCでは抗議者がこれらのアプリの削除を求めた。

7月には、サンフランシスコ市の市政法務責任者David Chiuが、本人の同意のないヌード画像を生成できる13のアプリの削除を求める書簡をAppleとGoogleに送った。Appleは3つを削除し、関連する開発者アカウントの停止手続きを開始したことを確認した。一方Googleは5つのAndroidアプリをPlayストアから削除した。Appleはまた、前年に安全上の問題がある15万を超えるアプリがユーザーに届くのを止め、詐欺や不正行為を理由に19万3000を超える開発者アカウントを解約したと明らかにした。