Исследование: AI-чат-боты без предупреждения используют контент санкционных российских СМИ

Организация «Репортёры без границ» (RSF) опубликовала исследование, согласно которому несколько популярных AI-чат-ботов формируют полноценные новостные сводки на основе российских государственных СМИ, находящихся под санкциями ЕС, включая RT и Sputnik, не сообщая пользователям об источнике информации.

Исследование возглавил руководитель технологического отдела RSF Венсан Бертье. Команда протестировала шесть чат-ботов, напрямую запрашивая новости из списка санкционных изданий: РИА Новости, Russia Today с иноязычными версиями, «Россия РТР», «Россия 24», Sputnik и Strategic Culture Foundation. Когда прямой доступ был заблокирован, исследователи просили инструменты искать обходные пути, включая Telegram-каналы и зеркальные сайты.

По словам Бертье, он изначально не ожидал положительного результата, особенно в случае ChatGPT, учитывая статус OpenAI как крупной AI-платформы согласно Закону ЕС о цифровых услугах. Однако результат оказался противоположным: ChatGPT, Claude и Grok составляли полные международные новостные обзоры на основе запрещённых источников, воспроизводя заголовки и делясь ссылками и цитатами. Некоторые чат-боты сталкивались со страницами, прямо указывающими на санкции ЕС, но продолжали поиск.

Vibe (ранее Le Chat) от французской компании Mistral не мог напрямую получить доступ к нескольким сайтам из списка, но нашёл альтернативы, включая материалы Sputnik во «ВКонтакте» и связанное с Telegram приложение, репостящее контент RT. Gemini проявил больше осторожности, предоставив доступ лишь в двух из десяти запросов. Meta AI оказался наиболее дисциплинированным, отказав в доступе во всех тестах и сославшись на европейские санкции.

ЕС ввёл запрет на RT и Sputnik 2 марта 2022 года, через четыре дня после полномасштабного вторжения России в Украину, с целью предотвратить оправдание войны российской пропагандой. На практике применение запрета было непоследовательным в разных странах-членах. Суд ЕС 2 июля уточнил, что запрет распространяется и на сторонние сайты, republication санкционного контента.

Юристы RSF подали жалобу в национальные компетентные органы и передали выводы Еврокомиссии. Комиссия заявила, что ответственность за исполнение лежит на странах-членах, отметив при этом, что Закон об ИИ уже применяется, включая запросы информации, направленные нескольким компаниям. Бертье считает нынешнее регулирование недостаточным, поскольку категория «высокого риска» в Законе об ИИ не охватывает системы, распространяющие и структурирующие информацию.