Apple prohíbe las apps de desnudado con IA en sus nuevas reglas de revisión de la App Store

Apple revisó sus Directrices de revisión de la App Store el 16 de octubre de 2026 e introdujo nuevas restricciones para las aplicaciones que puedan usarse para crear imágenes sexuales o desnudos de personas sin su consentimiento. Los cambios incluyen de forma explícita las imágenes falsas generadas con IA y detallan las sanciones para los desarrolladores que no cumplan, entre ellas la retirada de la tienda.

La compañía señaló que las aplicaciones que producen contenido pornográfico ya estaban prohibidas, pero explicó que añadía nuevas obligaciones de seguridad. La actualización afecta a tres áreas: la moderación de contenidos, los intentos de eludir la revisión de las apps y la explotación infantil.

De la moderación reactiva a la proactiva

Según la directriz 1.2 revisada, las aplicaciones que alojan contenido generado por usuarios deben impedir activamente las imágenes sexuales no consentidas y retirar las que detecten. Ya no bastará con actuar solo tras una queja de un usuario. Apple afirmó que los desarrolladores que no tengan salvaguardas adecuadas o que ignoren los informes de infracciones corren el riesgo de que sus apps sean retiradas.

Un segundo cambio, en la directriz 2.5.19, prohíbe expresamente añadir funciones después de la aprobación que no estuvieran presentes durante la revisión. Apple apunta a las llamadas apps de "cebo y cambio", que al principio parecen inofensivas y más tarde incorporan funciones que eliminan digitalmente la ropa de fotos de personas. Las apps infractoras pueden ser retiradas y la membresía del desarrollador en el Programa para Desarrolladores de Apple puede ser cancelada.

El tercer cambio, en la sección cinco de las directrices, aborda las aplicaciones que facilitan la trata de personas o la explotación infantil. Las apps que contengan material de abuso sexual infantil serán retiradas, y Apple también impedirá que se ofrezcan a través de canales alternativos de distribución de aplicaciones.

La presión tras la polémica de Grok

Las nuevas reglas llegan tras un año de críticas por los deepfakes sexuales generados con IA. La indignación creció después de que la herramienta de IA Grok, de X, se usara para producir imágenes sexualizadas de personas sin su consentimiento, pero Apple mantuvo tanto X como Grok en la App Store. En una respuesta a senadores estadounidenses, la compañía dijo que había advertido de que Grok podría ser retirada, y los manifestantes de la WWDC 2026, en junio, exigieron que las apps fueran eliminadas.

En julio, el fiscal de la ciudad de San Francisco, David Chiu, envió cartas a Apple y Google para pedir la retirada de 13 aplicaciones capaces de generar imágenes de desnudos no consentidos. Apple confirmó que retiró tres y empezó a cerrar las cuentas de desarrollador relacionadas, mientras que Google eliminó cinco apps de Android de Play Store. Apple también afirmó que el año pasado impidió que más de 150.000 apps con problemas de seguridad llegaran a los usuarios y canceló más de 193.000 cuentas de desarrollador por fraude y abuso.