Apple zakazuje aplikacji do rozbierania zdjęć przy pomocy AI w zaktualizowanych zasadach App Store

Apple zrewidował Wytyczne dotyczące weryfikacji aplikacji w App Store 16 października 2026 roku, wprowadzając nowe ograniczenia dla aplikacji, które mogą służyć do tworzenia seksualnych lub nagich wizerunków ludzi bez ich zgody. Zmiany wyraźnie obejmują fałszywe obrazy generowane przez AI oraz określają kary, w tym usunięcie ze sklepu, dla deweloperów, którzy nie spełnią wymogów.

Firma zauważyła, że aplikacje tworzące treści pornograficzne były już wcześniej zakazane, ale dodaje nowe obowiązki w zakresie bezpieczeństwa. Aktualizacja dotyczy trzech obszarów: moderacji treści, prób obejścia weryfikacji aplikacji oraz wykorzystywania dzieci.

Od reagowania do proaktywnej moderacji

Zgodnie ze zmienionym punktem 1.2 wytycznych, aplikacje udostępniające treści tworzone przez użytkowników muszą aktywnie zapobiegać publikowaniu nieautoryzowanych obrazów o charakterze seksualnym i usuwać wszelkie takie materiały, które wykryją. Samo działanie po zgłoszeniu przez użytkownika nie wystarczy. Apple poinformował, że deweloperzy, którzy nie zapewniają odpowiednich zabezpieczeń lub ignorują zgłoszenia naruszeń, ryzykują usunięcie swoich aplikacji.

Druga zmiana, dotycząca punktu 2.5.19, wprost zakazuje dodawania po zatwierdzeniu funkcji, które nie były obecne podczas weryfikacji. Apple celuje w tzw. aplikacje typu „wabik i zamiana”, które na początku wyglądają niewinnie, a później zyskują funkcje cyfrowego usuwania ubrań ze zdjęć ludzi. Aplikacje naruszające zasady mogą zostać usunięte, a członkostwo dewelopera w Apple Developer Program wygasa.

Trzecia zmiana, w piątej sekcji wytycznych, dotyczy aplikacji ułatwiających handel ludźmi lub wykorzystywanie dzieci. Aplikacje zawierające materiały przedstawiające seksualne wykorzystywanie dzieci zostaną usunięte, a Apple zablokuje ich oferowanie również za pośrednictwem alternatywnych kanałów dystrybucji aplikacji.

Presja po kontrowersjach wokół Grok

Nowe zasady są odpowiedzią na rok krytyki dotyczącej seksualnych deepfake'ów generowanych przez AI. Oburzenie wzrosło po tym, jak narzędzie AI platformy X, Grok, zostało wykorzystane do tworzenia zseksualizowanych obrazów ludzi bez ich zgody, a mimo to Apple pozostawił zarówno X, jak i Grok w App Store. W odpowiedzi na pytania amerykańskich senatorów firma stwierdziła, że ostrzegła, iż Grok może zostać usunięty, a w czerwcu 2026 roku, podczas WWDC, protestujący domagali się usunięcia tych aplikacji.

W lipcu radca miejski San Francisco David Chiu wysłał do Apple i Google pisma z żądaniem usunięcia 13 aplikacji zdolnych do generowania nagich wizerunków bez zgody. Apple potwierdził usunięcie trzech z nich i rozpoczął zamykanie powiązanych kont deweloperskich, natomiast Google usunął pięć aplikacji na Androida ze Sklepu Play. Apple poinformował również, że w zeszłym roku zablokował ponad 150 000 aplikacji z problemami bezpieczeństwa i zamknął ponad 193 000 kont deweloperskich za oszustwa i nadużycia.