Apple interdit les applications de déshabillage par IA dans ses nouvelles règles de l'App Store

Apple a révisé ses directives d'examen de l'App Store le 16 octobre 2026, en introduisant de nouvelles restrictions visant les applications permettant de créer des images sexuelles ou dénudées de personnes sans leur consentement. Les modifications couvrent explicitement les fausses images générées par IA et détaillent les sanctions encourues par les développeurs qui ne se conforment pas aux règles, notamment le retrait de la boutique.

L'entreprise a rappelé que les applications produisant des contenus pornographiques étaient déjà interdites, mais affirme ajouter de nouvelles obligations de sécurité. La mise à jour concerne trois domaines : la modération des contenus, les tentatives de contournement de l'examen des applications et l'exploitation des enfants.

D'une modération réactive à une modération proactive

Selon la directive 1.2 révisée, les applications qui hébergent des contenus générés par les utilisateurs doivent activement empêcher la diffusion d'images sexuelles non consenties et retirer celles qu'elles découvrent. Agir uniquement après une plainte d'utilisateur ne suffira plus. Apple précise que les développeurs qui ne disposent pas de garde-fous adéquats, ou qui ignorent les signalements de violations, risquent le retrait de leurs applications.

Une seconde modification, portant sur la directive 2.5.19, interdit explicitement d'ajouter après approbation des fonctionnalités absentes lors de l'examen. Apple vise les applications dites « appât » qui semblent inoffensives au départ puis acquièrent des fonctions permettant de retirer numériquement les vêtements sur des photos de personnes. Les applications fautives peuvent être supprimées et l'adhésion du développeur au programme Apple Developer résiliée.

La troisième modification, figurant dans la section cinq des directives, concerne les applications facilitant la traite des êtres humains ou l'exploitation des enfants. Les applications contenant des contenus d'abus sexuels sur mineurs seront retirées, et Apple empêchera également leur diffusion via les canaux alternatifs de distribution d'applications.

La pression après la controverse Grok

Ces règles font suite à un an de critiques concernant les deepfakes sexuels générés par IA. L'indignation a grandi après que l'outil d'IA Grok de X a servi à produire des images sexualisées de personnes sans leur consentement, alors qu'Apple a maintenu X et Grok dans l'App Store. Dans une réponse adressée à des sénateurs américains, l'entreprise a indiqué avoir averti que Grok pouvait être retiré, et des manifestants lors de la WWDC 2026 en juin ont réclamé la suppression de ces applications.

En juillet, le procureur de la ville de San Francisco, David Chiu, a envoyé des lettres à Apple et Google demandant le retrait de 13 applications capables de générer des images de nudité non consenties. Apple a confirmé en avoir retiré trois et a commencé à fermer les comptes de développeurs concernés, tandis que Google a retiré cinq applications Android du Play Store. Apple a également déclaré avoir empêché, l'année dernière, plus de 150 000 applications présentant des problèmes de sécurité d'atteindre les utilisateurs et résilié plus de 193 000 comptes de développeurs pour fraude et abus.