Эксперты предупреждают: российская пропаганда проникает в ответы ИИ-чатботов
Исследователи из Великобритании обнаружили, что популярные ИИ-чатботы иногда повторяют или ссылаются на источники российской пропаганды, что может вводить пользователей в заблуждение.
Новое исследование в Великобритании показывает, что чатботы на основе искусственного интеллекта (ИИ) не всегда отличают достоверную информацию от российской пропаганды. Исследователи из аналитического центра "Demos" протестировали пять широко используемых моделей ИИ, задав десятки вопросов, основанных на нарративах российской дезинформации.
Результаты показали, что в некоторых ответах пропагандистские источники представлялись как легитимная информация, или же утверждения повторялись без достаточного контекста. Более тревожным, чем отдельные ошибки, является то, что дезинформационные кампании всё чаще нацелены на влияние на сами системы ИИ. Массовая публикация пропаганды в интернете увеличивает вероятность её попадания в источники, используемые ИИ.
Однако картина неоднозначна. Более половины проверенных ответов отвергли ложные утверждения или чётко указали на их недостоверность. Но в ряде случаев системы использовали санкционированные источники или связанные с кремлёвскими операциями влияния, не объясняя их происхождение.
Эксперты подчёркивают, что ответы ИИ не следует воспринимать как неоспоримую истину. Особенно в вопросах политики, войн или других социально значимых событий рекомендуется проверять информацию из нескольких надёжных источников.
