Apple verbietet KI-Apps zum Entkleiden von Fotos in überarbeiteten App-Store-Regeln

Apple hat seine App Store Review Guidelines am 16. Oktober 2026 überarbeitet und neue Beschränkungen für Apps eingeführt, mit denen sich ohne Einwilligung sexuelle oder nackte Bilder von Menschen erstellen lassen. Die Änderungen erfassen ausdrücklich KI-generierte Fälschungen und regeln Sanktionen für Entwickler, die sich nicht daran halten, bis hin zur Entfernung aus dem Store.

Das Unternehmen erklärte, dass Apps, die pornografische Inhalte erzeugen, bereits verboten gewesen seien, es kämen nun aber zusätzliche Sicherheitspflichten hinzu. Das Update betrifft drei Bereiche: die Moderation von Inhalten, Versuche, die App-Prüfung zu umgehen, und die Ausbeutung von Kindern.

Von reaktiver zu proaktiver Moderation

Laut der überarbeiteten Richtlinie 1.2 müssen Apps, die nutzergenerierte Inhalte hosten, nicht einvernehmliche sexuelle Bilder aktiv verhindern und alle entdeckten Fälle entfernen. Es reicht künftig nicht mehr, erst nach einer Beschwerde eines Nutzers zu handeln. Apple erklärte, Entwickler, die keine ausreichenden Schutzmaßnahmen haben oder Verstoßmeldungen ignorieren, riskierten, dass ihre Apps aus dem Store genommen werden.

Eine zweite Änderung betrifft Richtlinie 2.5.19: Sie untersagt ausdrücklich, nach der Freigabe Funktionen hinzuzufügen, die während der Prüfung nicht vorhanden waren. Apple geht damit gegen sogenannte Bait-and-Switch-Apps vor, die zunächst harmlos wirken und später Funktionen erhalten, mit denen Kleidung auf Fotos von Menschen digital entfernt wird. Betroffene Apps können entfernt und die Mitgliedschaft des Entwicklers im Apple Developer Program beendet werden.

Die dritte Änderung findet sich im fünften Abschnitt der Richtlinien und betrifft Apps, die Menschenhandel oder die Ausbeutung von Kindern begünstigen. Apps mit Material über sexuellen Kindesmissbrauch werden entfernt, und Apple wird zudem verhindern, dass sie über alternative App-Vertriebswege angeboten werden.

Druck nach der Grok-Kontroverse

Die neuen Regeln folgen auf ein Jahr der Kritik an sexuellen KI-Deepfakes. Die Empörung wuchs, nachdem das KI-Tool Grok von X dazu genutzt wurde, sexualisierte Bilder von Menschen ohne deren Einwilligung zu erzeugen, dennoch behielt Apple sowohl X als auch Grok im App Store. In einer Antwort an US-Senatoren erklärte das Unternehmen, es habe gewarnt, dass Grok entfernt werden könnte, und Demonstranten forderten auf der WWDC 2026 im Juni, die Apps aus dem Store zu nehmen.

Im Juli schickte der Stadtanwalt von San Francisco, David Chiu, Schreiben an Apple und Google und verlangte die Entfernung von 13 Apps, mit denen sich nicht einvernehmliche Nacktbilder erzeugen lassen. Apple bestätigte, drei entfernt und die zugehörigen Entwicklerkonten zu schließen begonnen zu haben, während Google fünf Android-Apps aus dem Play Store nahm. Apple erklärte außerdem, dass es im vergangenen Jahr mehr als 150.000 Apps mit Sicherheitsproblemen daran gehindert habe, Nutzer zu erreichen, und über 193.000 Entwicklerkonten wegen Betrugs und Missbrauchs gekündigt habe.