Защита конфиденциальности при работе с Siri AI и новые правила безопасности App Store

Новые требования распространяются на сервисы, генерирующие откровенные изображения реальных людей без их согласия, включая контент, созданный с помощью искусственного интеллекта. Для пользователей ниши мобильных приложений это означает пересмотр того, какие ИИ-сервисы допустимо публиковать в магазине и под какими условиями.

Что именно запретили

Под прямой запрет попали инструменты для создания интимных изображений и «раздевания», построенные по схеме bait-and-switch: приложение проходит модерацию в безопасном виде, а затем открывает пользователю сомнительные возможности уже после одобрения. По данным VGTimes, Apple отдельно выделяет сервисы, использующие ИИ для генерации такого контента. Если разработчик маскирует функции при проверке или внедряет их уже после публикации, приложение удалят из магазина, а его создателя исключат из Apple Developer Program. За прошлый год, по данным VGTimes, Apple заблокировала свыше 150 тысяч небезопасных приложений и закрыла более 193 тысяч аккаунтов разработчиков. Эти цифры задают фон, на котором изменения в правилах выглядят не точечной реакцией, а продолжением систематической модерации.

Новые обязанности для разработчиков

Обновлённые правила распространяются и на ИИ-генерируемый контент. Разработчики с пользовательским контентом должны не только пресекать появление запрещённых материалов, но и оперативно их удалять, фильтровать неприемлемый контент, внедрять механизм жалоб и блокировать аккаунты нарушителей. Тем самым Apple формализует требования, которые раньше носили рекомендательный характер, и переводит их в разряд обязательных условий присутствия в магазине. На практике это означает, что разработчик несёт ответственность за весь цикл: от модерации загрузок до реакции на жалобы пользователей и регулярного аудита уже работающего функционала.

Практический контекст

Механика применения уже отработана: ранее компания предупреждала xAI о возможном удалении Grok из App Store из-за генерации интимных дипфейков, после чего разработчик внедрил защитные фильтры и обновлённую версию одобрили. Для пользователя практический вывод сводится к нескольким шагам: перед установкой приложений с ИИ-компонентами обращать внимание на дату последнего обновления и историю версий, проверять наличие канала жалоб внутри продукта и доступность политики модерации. Разработчикам стоит закладывать модерацию и обработку обращений в архитектуру продукта с первого релиза, иначе ужесточение правил рискует обнулить приложение уже после прохождения ревью. На фоне регулярных скандалов с дипфейками новая редакция правил закрывает лазейку, которой пользовались агрессивные сервисы.