Apple vieta le app AI per spogliare le persone nelle nuove regole dell'App Store

Il 16 ottobre 2026 Apple ha rivisto le App Store Review Guidelines, introducendo nuove restrizioni per le app che possono essere usate per creare immagini sessuali o di nudo di persone senza il loro consenso. Le modifiche includono esplicitamente le immagini false generate dall'intelligenza artificiale e definiscono le sanzioni, inclusa la rimozione dallo store, per gli sviluppatori che non si adeguano.

L'azienda ha ricordato che le app che producono contenuti pornografici erano già vietate, ma ha spiegato di aver aggiunto nuovi obblighi di sicurezza. L'aggiornamento riguarda tre ambiti: la moderazione dei contenuti, i tentativi di aggirare la revisione delle app e lo sfruttamento dei minori.

Dalla moderazione reattiva a quella proattiva

Secondo la linea guida 1.2 riveduta, le app che ospitano contenuti generati dagli utenti devono impedire attivamente la diffusione di immagini sessuali non consensuali e rimuovere quelle individuate. Non basterà più agire solo dopo una segnalazione dell'utente. Apple ha spiegato che gli sviluppatori privi di adeguate misure di tutela, o che ignorano le segnalazioni di violazione, rischiano di vedere le proprie app ritirate.

Una seconda modifica, alla linea guida 2.5.19, vieta esplicitamente di aggiungere dopo l'approvazione funzionalità che non erano presenti durante la revisione. Apple prende di mira le cosiddette app "esca e scambio", che all'inizio sembrano innocue e in seguito acquisiscono funzioni in grado di rimuovere digitalmente i vestiti dalle foto di persone. Le app che violano le regole possono essere rimosse e l'iscrizione dello sviluppatore all'Apple Developer Program può essere revocata.

La terza modifica, nella sezione cinque delle linee guida, riguarda le app che facilitano la tratta di esseri umani o lo sfruttamento dei minori. Le app che contengono materiale di abuso sessuale su minori saranno rimosse e Apple impedirà inoltre che vengano offerte attraverso canali di distribuzione alternativi.

Le pressioni dopo la polemica su Grok

Le nuove regole arrivano dopo un anno di critiche per i deepfake sessuali generati dall'IA. L'indignazione è cresciuta quando lo strumento di IA di X, Grok, è stato usato per produrre immagini sessualizzate di persone senza consenso, eppure Apple ha mantenuto sia X sia Grok nell'App Store. In una risposta ai senatori statunitensi, l'azienda ha dichiarato di aver avvertito che Grok avrebbe potuto essere rimosso, mentre a giugno, durante la WWDC 2026, alcuni manifestanti hanno chiesto che le app fossero ritirate.

A luglio, il procuratore cittadino di San Francisco David Chiu ha inviato lettere ad Apple e Google chiedendo la rimozione di 13 app in grado di generare immagini di nudo non consensuali. Apple ha confermato di averne rimosse tre e di aver avviato la chiusura dei relativi account di sviluppatore, mentre Google ha ritirato cinque app Android dal Play Store. Apple ha inoltre dichiarato che l'anno scorso ha bloccato oltre 150.000 app con problemi di sicurezza, impedendone l'accesso agli utenti, e ha chiuso più di 193.000 account di sviluppatori per frode e abuso.