Meta размещала рекламу приложения, обещавшего создавать порнодипфейки женщин-политиков

На платформах Meta недавно появилась реклама приложения Kromix, позиционируемого как «AI-стилизатор изображений», которое побуждало пользователей создавать порнографические видео с лицами известных американских женщин-политиков. В одном из роликов женщина с лицом, похожим на известную политическую деятельницу, сначала показана на фоне американского и президентского флагов, а затем кадр сменяется порнографической сценой с тем же лицом.

Приложение, ранее доступное в Apple App Store, позволяло платным пользователям загружать фотографии для создания различных сценариев, включая сцены сексуального насилия. Реклама была нацелена исключительно на мужскую аудиторию и была удалена только после того, как журналисты обратились в Meta с вопросами. Всего с аккаунтом, стоявшим за кампанией, было связано 32 объявления, каждое из которых показывалось от пяти до 46 часов, большинство собрало десять или менее просмотров.

Повторяющаяся проблема

Представитель организации по технологической прозрачности, обнаружившей рекламу, отметила, что найденные материалы систематически сексуализируют женщин и превращают их в порнографический контент, что вызывает вопросы о том, как компания намерена бороться с этим явлением, особенно когда речь идёт о женщинах-политиках. Выборные должностные лица, преимущественно женщины, уже много лет становятся мишенью для несанкционированных дипфейков — в этом году аналогичные случаи фиксировались в Швеции, Англии и Северной Ирландии.

Официальная политика Meta запрещает сексуальный контент в рекламе и продвижение так называемых приложений для «раздевания», однако нарушения продолжаются. Компания сообщает, что с ноября по январь удалила 344 000 подобных объявлений и подала иск против как минимум одного разработчика таких приложений. Представитель Meta пояснила, что рекламодатели часто маскируют порнографический контент под обложками с нейтральными изображениями, например пляжами или горами, чтобы обойти автоматическое обнаружение.

Apple удалила Kromix из App Store после обращения журналистов, заявив, что приложение, по всей видимости, добавило запрещённый контент уже после первоначальной проверки. Отдельно на платформах Meta недавно было обнаружено более 50 рекламных объявлений с материалами о сексуальном насилии над детьми, связанными с другим приложением.