Новые ИИ-инструменты Meta не смогли остановить сотни рекламных объявлений с материалами о насилии над детьми
Исследователи обнаружили более 250 новых рекламных объявлений с материалами сексуального насилия над детьми на платформах Meta с начала августа, часть из них использовала изображения реальных детей, включая члена одной из европейских королевских семей.
Исследователи некоммерческой организации Tech Transparency Project (TTP) сообщили, что с начала августа на платформах Meta — Facebook, Instagram, Threads и Messenger — появилось более 250 новых рекламных объявлений с материалами сексуального насилия над детьми. Это произошло вскоре после того, как издание WIRED сообщило о примерно 50 подобных объявлениях, которые Meta удалила, заявив тогда о внедрении новых ИИ-инструментов для выявления такого контента.
Изображения реальных детей
В отличие от ранее обнаруженной партии, в новом наборе объявлений исследователи выявили изображения реальных, узнаваемых детей — среди них несовершеннолетний представитель европейской королевской семьи, чья официальная фотография была превращена в откровенное видео. Также зафиксированы случаи в США, включая двух подростков с аккаунтами в соцсетях и фотомодель со стоковых сайтов, где она была указана как несовершеннолетняя.
Всего с конца прошлого года на платформах Meta размещено более 350 подобных видеообъявлений, многие из которых ведут на так называемые приложения для «раздевания», часто связанные с китайскими разработчиками. В объявлениях обычно используется обычная фотография девочки-подростка с текстом, побуждающим скачать приложение для подмены лиц. В совокупности объявления охватили десятки тысяч аккаунтов в странах ЕС, Великобритании, США, Австралии и Индии.
Реакция Meta и властей
Представитель Meta заявила, что компания не терпит эксплуатации детей — ни реальной, ни созданной ИИ, и что многие из выявленных объявлений уже удалены, а доход от них составил менее 5000 долларов. В Apple и Google заявили, что большинство связанных приложений уже удалены из магазинов.
Открытия привлекли внимание законодателей и регуляторов. Сенатор США Марк Уорнер призвал Meta прекратить показ таких объявлений, а генеральные прокуроры штатов Мичиган и Флорида, а также австралийский регулятор онлайн-безопасности заявили, что расследуют ситуацию.
