Apple запрещает в App Store приложения, раздевающие людей с помощью ИИ, в обновлённых правилах проверки

16 октября 2026 года Apple пересмотрела правила проверки приложений App Store и ввела новые ограничения для приложений, которые можно использовать для создания интимных или обнажённых изображений людей без их согласия. Изменения прямо касаются поддельных изображений, созданных ИИ, и предусматривают санкции, включая удаление из магазина, для разработчиков, которые не выполняют требования.

Компания отметила, что приложения, генерирующие порнографический контент, и раньше были запрещены, но теперь она добавляет новые обязательства по безопасности. Обновление затрагивает три направления: модерацию контента, попытки обойти проверку приложений и эксплуатацию детей.

От реактивной модерации к проактивной

Согласно пересмотренному пункту 1.2 правил, приложения, размещающие пользовательский контент, должны активно предотвращать появление интимных изображений без согласия и удалять те, что обнаружены. Одного лишь реагирования на жалобы пользователей больше недостаточно. Apple заявила, что разработчики, у которых нет надлежащих мер защиты или которые игнорируют сообщения о нарушениях, рискуют лишиться своих приложений.

Второе изменение, касающееся пункта 2.5.19, прямо запрещает добавлять после одобрения функции, которых не было на этапе проверки. Apple нацелилась на так называемые приложения-приманки, которые поначалу выглядят безобидно, а затем получают функции, цифровым образом снимающие одежду с фотографий людей. Нарушающие правила приложения могут быть удалены, а членство разработчика в программе Apple Developer Program прекращено.

Третье изменение, в пятом разделе правил, касается приложений, способствующих торговле людьми или эксплуатации детей. Приложения, содержащие материалы сексуального насилия над детьми, будут удаляться, а Apple также заблокирует их распространение через альтернативные каналы распространения приложений.

Давление после скандала с Grok

Правила появились после года критики в адрес сексуальных дипфейков, созданных ИИ. Возмущение нарастало после того, как инструмент ИИ от X, Grok, использовали для создания сексуализированных изображений людей без их согласия, при этом Apple оставила и X, и Grok в App Store. В ответе сенаторам США компания заявила, что предупреждала: Grok может быть удалён. А в июне на WWDC 2026 протестующие потребовали убрать эти приложения.

В июле городской прокурор Сан-Франциско Дэвид Чиу направил письма в Apple и Google с требованием удалить 13 приложений, способных создавать интимные изображения без согласия. Apple подтвердила, что удалила три приложения и начала закрывать связанные аккаунты разработчиков, а Google убрала из Play Store пять приложений для Android. Apple также сообщила, что в прошлом году она не допустила к пользователям более 150 000 приложений с проблемами безопасности и заблокировала более 193 000 аккаунтов разработчиков за мошенничество и злоупотребления.