Anthropic сообщила об использовании чат-бота Claude связанными с Россией группировками для военных целей и пропаганды
Согласно новому отчету Anthropic, связанные с Россией группировки использовали ИИ-чат-бот Claude для кибератак на Украину, создания пропаганды и разработки программного обеспечения для дронов. Компания заявила, что заблокировала все выявленные случаи.
Разработчик искусственного интеллекта Anthropic в своем последнем отчете раскрыл несколько случаев, когда связанные с Россией группировки использовали чат-бот Claude в вредоносных целях.
Кибератаки на украинские учреждения
Один из наиболее серьезных случаев связан с хакерской группировкой, которая с помощью Claude автоматизировала кибератаки более чем на 20 организаций, преимущественно в Украине. Атаки были направлены против государственных, оборонных и разведывательных учреждений, а также поставщиков технологий военных дронов. Чат-бот использовался для разработки вредоносного ПО и инструментов фишинга, а также для извлечения информации из взломанных систем.
Создание пропаганды в нескольких странах
Claude также использовался для создания контента, выгодного России. В Центральноафриканской Республике с его помощью готовился контент для радиостанции, связанной с некогда поддерживаемой Кремлем группировкой "Вагнер". В Молдове бывший региональный руководитель российского госСМИ "Спутник" использовал чат-бот для адаптации новостей и данных опросов под прокремлевские нарративы.
Разработка автономных дронов
Особую тревогу вызывает случай, когда связанная с Россией группировка использовала инструмент Claude Code для разработки программного обеспечения для дронов-камикадзе, включая систему автономного распознавания целей. ИИ-модели обучались на видеоматериалах, полученных во время войны в Украине, а целью проекта было создание полностью автономного роя FPV-дронов-камикадзе.
Доступ в обход ограничений
Официально Claude в России недоступен, однако вовлеченные пользователи обходили ограничения с помощью виртуальных частных сетей и других серверов. Anthropic заявила, что заблокировала все выявленные в отчете случаи злоупотреблений, использовала полученную информацию для усовершенствования своих систем безопасности и передала ее государственным органам и партнерам по отрасли.
