Наблюдательный совет Meta призывает усилить защиту обычных людей от сексуализированных дипфейков

Наблюдательный совет Meta призвал гиганта социальных сетей усилить защиту обычных людей, которые становятся мишенями сексуализированных дипфейков. Совет рекомендует добавить AI-созданные имитации в политику по борьбе с сексуальной эксплуатацией взрослых, утверждая, что такой контент по умолчанию является несогласованным. Также предлагается разрешить пользователям назначать доверенных лиц (друзей или родственников), которые могут сообщать о нарушениях от их имени. Кроме того, совет советует сделать AI-созданные сексуальные имитации отдельной категорией в формах отчетности и апелляций, а не частью раздела о домогательствах или наготе. В настоящее время только жители Техаса и Флориды имеют доступ к специализированной форме, где дипфейки с интимными изображениями указаны как причина для жалобы. Совет хочет, чтобы эта возможность была доступна всем пользователям Meta, поскольку "AI-созданное несогласованное интимное злоупотребление является глобальной проблемой".

Эти рекомендации стали результатом расследования инцидента, когда Meta проигнорировала жалобу пользователя на сексуализированную имитацию друга в Instagram. Пользователь обратился в совет после того, как Meta дважды отказалась удалить AI-видео, на котором женщина поправляет платье, и в нескольких кадрах видно ее нижнее белье. Человек, изображенный на видео, уже закрыл свой аккаунт. Meta изначально не удалила видео, поскольку не было признаков того, что изображенный человек реален. Только если бы сама жертва сообщила об этом, это нарушило бы политику по борьбе с сексуальной эксплуатацией взрослых. Совет отмечает, что такая система благоприятствует публичным лицам, так как обычным людям сложнее привлечь правоохранительные органы или СМИ. Совет отменил решение Meta и потребовал удалить видео.

Это не первый раз, когда совет критикует Meta в связи с AI-контентом и модерацией. В середине 2025 года он назвал неспособность компании последовательно соблюдать правила "непоследовательной и неоправданной". В марте совет призвал Meta создать отдельное правило для AI-контента, отличное от политики дезинформации. Meta не обязана внедрять эти рекомендации, но совет будет контролировать их выполнение в случае принятия.