Китай борется с кризисом фейковых AI-видео во время стихийных бедствий
Китайские власти сталкиваются с дополнительной проблемой во время стихийных бедствий: вводящие в заблуждение видео, созданные искусственным интеллектом, распространяют панику и дезинформацию. Произведены аресты и введены более строгие правила, но эксперты предупреждают о растущем кризисе дезинформации.
После тайфуна Нул, достигшего побережья Китая в выходные, власти осознают, что им придется бороться не только с последствиями стихии, но и с обманчивыми видео, созданными искусственным интеллектом (ИИ). За последние месяцы во время сильных штормов и наводнений в социальных сетях распространились фейковые видео, показывающие мертвые тела, ложные изображения наводнений в непострадавших районах и вымышленные детали реагирования на чрезвычайные ситуации.
Некоторые видео вызвали панику – ложные сообщения об отключениях электроэнергии заставили жителей срочно покупать запасы. Другие видео основывались на реальных событиях: в июле в городе Хэнчжоу, Гуанси, из-за наводнения с фермы сбежали сотни змей, а затем появились фейковые изображения крокодилов, выпущенных в реку.
Заместитель начальника полиции Чжэцзяня Хуан Чжихуа заявил государственным СМИ, что многие создатели контента используют новости о катастрофах для привлечения подписчиков, намеренно фабрикуя информацию. За последние недели были произведены аресты и наказания, от задержания до штрафов.
Эксперты предупреждают о беспрецедентном кризисе дезинформации. Профессор Чэнь Бин отметил, что ИИ значительно снижает технические барьеры для создания ложной информации – теперь любой может легко создавать убедительный, но полностью вымышленный контент. Профессор Гао Фупин из Восточно-Китайского университета политологии и права сообщил BBC, что мотивация варьируется от развлечения до желания вызвать панику или социальные беспорядки.
Звучат призывы маркировать весь контент, созданный ИИ, но метки можно удалить. Профессор Сюй Сяокэ из Пекинского университета подчеркивает необходимость проверки географических местоположений и источников изображений, но признает, что технологии обнаружения отстают от технологий создания.
Китай активно инвестирует в ИИ, стремясь стать ведущей технологической сверхдержавой. Однако случаи, когда официальные источники преуменьшали серьезность катастроф, подорвали доверие: в июле прорыв плотины Люлань был описан как «отверстие», что привело к как минимум 26 смертям; в 2021 году чиновники провинции Хэнань были арестованы за сокрытие 139 смертей. Этот вакуум доверия облегчает распространение фейкового контента.
Полиция призывает население доверять аккредитованным источникам и скептически относиться к информации неизвестного происхождения. 23 июля Администрация киберпространства Китая объявила общенациональную кампанию против фейкового контента, связанного с наводнениями, призвав платформы усилить проверку контента.
Профессор Гао выступает за сочетание общественного образования и правоохранительных мер, но другие предупреждают, что ИИ развивается быстрее, чем правовые рамки. Адвокат Питер Панг утверждает, что платформы должны нести ответственность наряду с создателями контента. Профессор Сюй прогнозирует, что дезинформация, созданная ИИ, будет расти в объеме и скорости, угрожая выборам, чрезвычайным ситуациям в области здравоохранения, конфликтам и стихийным бедствиям.
