Apple забороняє додатки з ШІ для створення оголених зображень в оновлених правилах App Store

16 жовтня 2026 року Apple переглянула свої рекомендації з перевірки App Store, запровадивши нові обмеження для застосунків, які можна використовувати для створення сексуальних або оголених зображень людей без їхньої згоди. Зміни прямо охоплюють фейкові зображення, створені ШІ, а також визначають покарання, зокрема видалення з магазину, для розробників, які не дотримуватимуться правил.

Компанія зазначила, що застосунки, які створюють порнографічний контент, і раніше були заборонені, але тепер вона додає нові зобов'язання щодо безпеки. Оновлення стосується трьох сфер: модерації контенту, спроб обійти перевірку застосунків та експлуатації дітей.

Від реактивної до проактивної модерації

Згідно з оновленим пунктом 1.2 рекомендацій, застосунки, які розміщують контент користувачів, повинні активно запобігати появі інтимних зображень без згоди та видаляти всі такі матеріали, які виявляють. Реагувати лише після скарги користувача вже буде недостатньо. Apple заявила, що розробники, які не мають належного захисту або ігнорують повідомлення про порушення, ризикують втратити свої застосунки в магазині.

Друга зміна, до пункту 2.5.19, прямо забороняє додавати після схвалення функції, яких не було під час перевірки. Apple спрямовує удар проти так званих застосунків-приманок, які спочатку виглядають безпечними, а згодом отримують можливість цифрово знімати одяг із фотографій людей. Порушні застосунки можна видалити, а членство розробника в програмі Apple Developer Program анулювати.

Третя зміна, у розділі п'ятому рекомендацій, стосується застосунків, що сприяють торгівлі людьми або експлуатації дітей. Застосунки, які містять матеріали із сексуальним насильством над дітьми, буде видалено, а Apple також блокуватиме їх пропонування через альтернативні канали розповсюдження застосунків.

Тиск після скандалу навколо Grok

Правила з'явилися після року критики через сексуальні дипфейки, створені ШІ. Обурення зросло після того, як інструмент ШІ Grok від X використали для створення сексуалізованих зображень людей без згоди, проте Apple залишила і X, і Grok у App Store. У відповіді сенаторам США компанія заявила, що попереджала: Grok можуть видалити, а протестувальники на WWDC 2026 у червні вимагали зняти ці застосунки з продажу.

У липні міський прокурор Сан-Франциско Девід Чіу надіслав листи Apple і Google з вимогою видалити 13 застосунків, здатних створювати оголені зображення без згоди. Apple підтвердила, що видалила три застосунки і почала блокувати пов'язані облікові записи розробників, тоді як Google вилучила з Play Store п'ять застосунків для Android. Apple також повідомила, що минулого року вона не допустила до користувачів понад 150 000 застосунків із проблемами безпеки та закрила понад 193 000 облікових записів розробників через шахрайство та зловживання.