Сотни безобидных ИИ-приложений скрывают функции сексуально насильственных дипфейков
Расследование WIRED выявило сеть из более чем 400 связанных доменов и приложений, которые выдают себя за обычные сервисы, но позволяют создавать откровенные дипфейки. Apple и Google удалили большую часть приложений после запросов журналистов.
Расследование технологического издания WIRED выявило сеть из более чем 400 связанных доменов и мобильных приложений, которые в магазинах Apple App Store и Google Play выглядят как обычные сервисы, но при определённых условиях позволяют создавать сексуально откровенные изображения и видео на основе загруженных пользователями фотографий с помощью искусственного интеллекта. По словам исследователей, сеть действует около года, что ставит вопрос о том, насколько эффективно платформы соблюдают собственные запреты на вредоносные дипфейки.
Как это работает
Одно из приложений, Viefur, позиционирует себя как создатель портретов домашних животных: за цифровые монеты (около 4 долларов за 130 монет) фото питомцев превращают в забавные портреты. Однако исследователи обнаружили, что при каждой загрузке приложение отправляет серверу сведения, например о происхождении пользователя и языке, а сервер решает, какую версию показать — безобидную или откровенную. Одним из триггеров, по-видимому, служит загрузка после перехода по рекламе в Facebook и Instagram компании Meta. В откровенном интерфейсе есть десятки порнографических шаблонов, включая сцены насилия.
Саму сеть выдаёт и код сайтов: в нём содержится список всех доменов и приложений. Исследователь угроз компании Infoblox Маэль Ле Туз определил почти 500 связанных доменов.
Масштаб и ответственные
Анализ Поля Бушо из некоммерческой организации AI Forensics показывает, что приложения начали появляться в конце 2025 года, а весной их число резко выросло. В сентябре в Google Play работали 27 таких приложений, скачанных в сумме более 350 000 раз. Приложение DiffAI скачали более 100 000 раз. Исследователи связывают сеть с китайскими разработчиками и зарегистрированной в Гонконге компанией KeLing Technology Limited, которая не ответила на запросы, но после обращения, как оказалось, стёрла публичные связи с дипфейк-инструментами.
Apple удалила 19 приложений, заявив, что разработчики сменили источник контента после одобрения. Google удалила большинство приложений до обращения WIRED. Meta сообщила, что запретила KeLing Technology Limited рекламу в 2025 году, а после получения данных WIRED приняла меры против тысяч аккаунтов и страниц и заблокировала рекламу для 209 приложений. Когда материал готовился к выходу, подобные объявления и приложения продолжали появляться.
