Сан-Франциско требует от Meta прекратить рекламу с созданным ИИ насилием над детьми

Городской прокурор Сан-Франциско Дэвид Чиу направил компании Meta официальное предупредительное письмо с требованием прекратить размещение платной рекламы, содержащей созданный искусственным интеллектом контент о сексуальном насилии над детьми. Письмо последовало за публикацией издания Wired, в которой сообщалось, что за последние месяцы на платформах Meta появилось более 350 объявлений, в которых с помощью ИИ фотографии несовершеннолетних — включая представительницу одной из европейских королевских семей — превращались в короткие видеоролики сексуального характера.

Объявления, обнаруженные исследователями организации Tech Transparency Project (TTP), вели пользователей к загрузке приложений для генерации изображений и видео с помощью ИИ, часть из которых позволяет цифровым способом «раздевать» людей или создавать иной интимный контент без согласия изображённых. Реклама, показанная в Facebook, Instagram и Threads, охватила более 29 000 аккаунтов в странах Евросоюза, а также была нацелена на пользователей в США, Австралии и Индии.

Meta оспаривает юрисдикцию

В Meta заявили, что нет доказательств показа этой рекламы именно в Сан-Франциско, и поэтому вопрос якобы не относится к компетенции городского прокурора. Представитель офиса прокурора Алекс Барретт-Шортер возразил, что жители Сан-Франциско могут получить доступ к этим объявлениям онлайн, а значит, вопрос касается города. По его словам, в офисе прокурора удивлены реакцией Meta, которая, похоже, больше озабочена вопросом юрисдикции, чем самой проблемой эксплуатации детей.

Ранее в Meta заявляли, что многие из выявленных объявлений были удалены ещё до сообщения о них, а все оставшиеся с тех пор убраны за нарушение правил. По данным компании, общие расходы на более чем 300 найденных исследователями объявлений составили менее 5000 долларов США.

Срок ответа — 28 дней

В письме Чиу требует, чтобы Meta объяснила, как реклама смогла обойти системы модерации, каким образом компания сообщает о подобных случаях в Национальный центр по пропавшим и эксплуатируемым детям (NCMEC), и как она поступает с рекламодателями-нарушителями, допускающими повторные нарушения. Компании дали 28 дней на ответ. Директор TTP Кэти Пол заявила, что даже после публикации отчёта на платформах Meta продолжают появляться новые объявления с участием тех же детей.