Apple proíbe apps de nudez por IA em nova atualização das regras da App Store

A Apple revisou suas Diretrizes de Revisão da App Store em 16 de outubro de 2026, introduzindo novas restrições a aplicativos que podem ser usados para criar imagens sexuais ou de nudez de pessoas sem consentimento. As mudanças abrangem explicitamente imagens falsas geradas por IA e detalham as penalidades para desenvolvedores que não cumprirem as regras, incluindo a remoção da loja.

A empresa observou que aplicativos que produzem conteúdo pornográfico já eram proibidos, mas afirmou que está acrescentando novas obrigações de segurança. A atualização abrange três áreas: moderação de conteúdo, tentativas de burlar a revisão de aplicativos e exploração infantil.

De uma moderação reativa para uma moderação proativa

De acordo com a diretriz 1.2 revisada, aplicativos que hospedam conteúdo gerado por usuários devem prevenir ativamente imagens sexuais não consensuais e remover qualquer uma que descubram. Agir apenas após a denúncia de um usuário não será mais suficiente. A Apple afirmou que desenvolvedores que não tiverem salvaguardas adequadas, ou que ignorarem denúncias de violação, correm o risco de ter seus aplicativos retirados.

Uma segunda mudança, na diretriz 2.5.19, proíbe explicitamente acrescentar, após a aprovação, funcionalidades que não estavam presentes durante a revisão. A Apple está mirando os chamados apps de isca e troca, que parecem inofensivos no início e depois ganham recursos capazes de remover digitalmente roupas de fotos de pessoas. Aplicativos infratores podem ser removidos e a filiação do desenvolvedor ao Apple Developer Program, encerrada.

A terceira mudança, na seção cinco das diretrizes, trata de aplicativos que facilitam o tráfico de pessoas ou a exploração infantil. Aplicativos que contenham material de abuso sexual infantil serão removidos, e a Apple também os impedirá de serem oferecidos por canais alternativos de distribuição de aplicativos.

Pressão após a polêmica do Grok

As regras seguem um ano de críticas a deepfakes sexuais gerados por IA. A indignação cresceu depois que a ferramenta de IA Grok, da X, foi usada para produzir imagens sexualizadas de pessoas sem consentimento, mas a Apple manteve tanto a X quanto o Grok na App Store. Em resposta a senadores dos EUA, a empresa disse que havia alertado que o Grok poderia ser removido, e manifestantes na WWDC 2026, em junho, exigiram a retirada dos aplicativos.

Em julho, o procurador-geral da cidade de San Francisco, David Chiu, enviou cartas à Apple e ao Google pedindo a remoção de 13 aplicativos capazes de gerar imagens de nudez não consensuais. A Apple confirmou ter removido três e começou a encerrar as contas de desenvolvedores relacionadas, enquanto o Google retirou cinco aplicativos Android da Play Store. A Apple também afirmou que, no ano passado, impediu que mais de 150.000 aplicativos com problemas de segurança chegassem aos usuários e encerrou mais de 193.000 contas de desenvolvedores por fraude e abuso.