Apple verbiedt AI-apps die kleding van foto's verwijderen in nieuwe App Store-regels

Apple heeft op 16 oktober 2026 zijn App Store Review Guidelines herzien en nieuwe beperkingen ingevoerd voor apps waarmee seksuele of naaktbeelden van mensen zonder hun toestemming kunnen worden gemaakt. De wijzigingen gelden uitdrukkelijk ook voor AI-gegenereerde nepbeelden en bevatten sancties, waaronder verwijdering uit de winkel, voor ontwikkelaars die zich er niet aan houden.

Het bedrijf wees erop dat apps die pornografische content produceren al verboden waren, maar voegt nu extra veiligheidsverplichtingen toe. De update heeft betrekking op drie gebieden: contentmoderatie, pogingen om de app-review te omzeilen en seksuele uitbuiting van kinderen.

Van reactief naar proactief modereren

Volgens de herziene richtlijn 1.2 moeten apps die door gebruikers gemaakte content hosten, seksueel beeldmateriaal zonder toestemming actief voorkomen en alle exemplaren die ze tegenkomen verwijderen. Alleen optreden na een klacht van een gebruiker is niet langer voldoende. Apple zei dat ontwikkelaars zonder adequate waarborgen, of die meldingen van overtredingen negeren, het risico lopen dat hun apps uit de winkel worden gehaald.

Een tweede wijziging, in richtlijn 2.5.19, verbiedt uitdrukkelijk het na goedkeuring toevoegen van functionaliteit die tijdens de review niet aanwezig was. Apple richt zich op zogenaamde bait-and-switch-apps, die in eerste instantie onschuldig lijken maar later functies krijgen waarmee kleding digitaal van foto's van mensen wordt verwijderd. Overtredende apps kunnen worden verwijderd en het lidmaatschap van het Apple Developer Program van de ontwikkelaar kan worden beëindigd.

De derde wijziging, in hoofdstuk vijf van de richtlijnen, betreft apps die mensenhandel of seksuele uitbuiting van kinderen faciliteren. Apps die materiaal met seksueel misbruik van kinderen bevatten, worden verwijderd, en Apple zal ook voorkomen dat ze via alternatieve distributiekanalen voor apps worden aangeboden.

Druk na de Grok-controverse

De regels volgen op een jaar kritiek op AI-gegenereerde seksuele deepfakes. De verontwaardiging groeide nadat de AI-tool Grok van X werd gebruikt om seksueel getinte beelden van mensen zonder toestemming te maken, terwijl Apple zowel X als Grok in de App Store hield. In een reactie aan Amerikaanse senatoren zei het bedrijf dat het had gewaarschuwd dat Grok verwijderd kon worden, en demonstranten op WWDC 2026 in juni eisten dat de apps offline zouden worden gehaald.

In juli stuurde David Chiu, city attorney van San Francisco, brieven naar Apple en Google waarin hij verzocht om 13 apps te verwijderen die non-consensuele naaktbeelden kunnen genereren. Apple bevestigde dat het er drie had verwijderd en begon met het sluiten van de bijbehorende ontwikkelaarsaccounts, terwijl Google vijf Android-apps uit de Play Store haalde. Apple zei verder dat het vorig jaar meer dan 150.000 apps met veiligheidsproblemen had tegengehouden en meer dan 193.000 ontwikkelaarsaccounts had beëindigd wegens fraude en misbruik.