Сан-Франциско обязал Apple и Google удалить приложения для «раздевания»
Город Сан-Франциско потребовал от Apple и Google удалить из магазинов приложений десятки программ, которые с помощью ИИ цифровым образом раздевают людей, ссылаясь на законы Калифорнии против дипфейк-порнографии без согласия.
Городской прокурор Сан-Франциско Дэвид Чиу направил официальные письма Apple и Google, требуя удалить из их магазинов приложений десятки так называемых «nudify»-приложений — программ, способных цифровым образом изменять фотографии, чтобы раздеть изображённых на них людей.
Закон Калифорнии криминализирует любую деятельность, которая «сознательно способствует» или «безрассудно помогает» созданию дипфейк-порнографии без согласия. Кроме того, в 2025 году Калифорния приняла закон, позволяющий жертвам подавать гражданские иски против третьих лиц, способствующих распространению таких материалов.
Город утверждает, что, несмотря на эти хорошо известные правила, обе технологические компании продолжали размещать и получать прибыль от таких программ. «Apple и Google наживаются на приложениях, которые эксплуатируют женщин и девушек, создавая интимные дипфейки без согласия», — заявил Чиу в электронном письме TechCrunch. «Хотя компании разорвали связи с некоторыми проблемными приложениями, Apple и Google несут ответственность за proactive и бдительность для предотвращения сексуального насилия».
В письмах, которые были просмотрены TechCrunch, отмечается, что компании «были уведомлены» о своей роли в «обработке платежей за нелегальные покупки в течение почти года», но тем не менее продолжали это делать. Согласно письмам, обе компании неоднократно предупреждали о том, что они размещают эти приложения.
В январе и снова в апреле Tech Transparency Project (TTP) опубликовал отчёты и направил письма обеим компаниям, отметив, что в их магазинах приложений находятся «десятки приложений», которые «продавали дипфейк-изображения без согласия в обмен на платежи», обрабатываемые этими фирмами. В отчёте TTP за апрель говорилось, что Google и Apple намеренно «направляли» пользователей к таким приложениям, назвав обе компании «ключевыми участниками распространения ИИ-инструментов, способных превращать реальных людей в сексуализированные изображения».
Кроме того, Чиу сообщил Wired, что обе компании, вероятно, заработали «миллионы долларов комиссионных» от приложений, предлагающих такие услуги. В письмах предупреждается, что Apple и Google могут быть привлечены к гражданской ответственности за нарушение закона, и содержится требование связаться с городом в течение 28 дней.
Представитель Apple заявил TechCrunch, что приложения для «раздевания» запрещены в App Store, добавив: «Мы удалили три из указанных приложений и в настоящее время прекращаем действие учётных записей их разработчиков в нашей программе. Мы связываемся ещё с четырьмя, которым необходимо устранить нарушения политики, иначе они также будут удалены». Представитель Google утверждает, что все пять приложений Play, упомянутых в письме Чиу, были приостановлены. «Когда нам сообщают о нарушениях, мы проводим расследование и принимаем оперативные меры, что в случае с этими приложениями включало приостановку сотен нарушающих приложений и ограничение связанных поисковых запросов, таких как „nudify“, в нашем магазине», — добавил представитель.
Дипфейк-порнография в основном была проблемой для женщин-знаменитостей, хотя приложения для «раздевания» делают возможным нацеливаться на любого, у кого есть общедоступное фото.
