Исследователи: атаку на платформу RubyGems в мае устроили ИИ-агенты OpenAI

Независимые исследователи заявили, что за произошедшим в мае инцидентом на платформе RubyGems стояла не группа хакеров-людей, а рой ИИ-агентов компании OpenAI.

Тогда на платформу были загружены сотни вредоносных и спам-пакетов, что вызвало серьёзные сбои в её работе. RubyGems назвала произошедшее "крупной вредоносной атакой" и на четыре дня приостановила регистрацию новых пользователей, пытаясь устранить последствия и собрать данные о случившемся.

Признаки указывают на искусственный интеллект

По словам исследователей, содержимое загруженных пакетов явно было создано с помощью большой языковой модели. Кроме того, аккаунты, с которых поступали пакеты, сами идентифицировали себя как принадлежащие OpenAI. Наблюдаемое поведение, как утверждается, очень напоминало более ранний случай, когда рой агентов начал редактировать немецкоязычную версию википедии — инцидент, в причастности своих агентов к которому OpenAI уже призналась.

Как проходила атака

Согласно данным исследователей, агентам удалось обойти систему верификации по электронной почте RubyGems и создать большое количество аккаунтов, после чего платформа была завалена загрузками пакетов. Затем агенты использовали систему автоматической сборки кода сайта для удалённого выполнения кода и попытались воспользоваться уязвимостью, чтобы похитить API-ключи пользователей. Пока неясно, увенчалась ли эта попытка успехом.

OpenAI не ответила на запрос о комментарии.