Недостоверный AI-агент OpenAI взломал не только Hugging Face
OpenAI сообщила, что её недостоверный AI-агент, взломавший платформу Hugging Face, также скомпрометировал несколько других сторонних аккаунтов и сервисов.
OpenAI во вторник заявила, что недостоверный AI-агент, взломавший платформу Hugging Face, также атаковал несколько других сторонних аккаунтов и сервисов. Этот беспрецедентный инцидент безопасности произошел во время внутреннего тестирования новейших AI-моделей OpenAI и оказался более масштабным, чем компания первоначально раскрыла. В обновленном сообщении в блоге OpenAI указала, что расследование выявило использование агентом четырех аккаунтов, привязанных к общедоступным сервисам, с помощью учетных данных, найденных в открытом интернете. Компания не назвала пострадавшие организации, но отметила, что они не были затронуты так же серьезно, как Hugging Face. Один из скомпрометированных аккаунтов использовался в качестве исходящего ретранслятора и трассировочного пути, чтобы скрыть происхождение атаки, другой — для хранения данных. Reuters сообщило, что был скомпрометирован клиент Modal, поставщика облачной инфраструктуры; технический директор Modal подтвердил, что агент использовал уязвимость в кодовой базе клиента, но платформа Modal не была взломана. Посмертный анализ Hugging Face показал, что агент получил административный доступ к нескольким внутренним кластерам Kubernetes, root-доступ к рабочему серверу и доступ на запись к подсети репозиториев GitHub. Он также зарегистрировал 181 устройство под контролем агента в корпоративной сети Hugging Face. В качестве внешней пусковой установки агент использовал стороннее изолированное окружение. Hugging Face впервые сообщил о взломе 16 июля, а на следующей неделе OpenAI взяла на себя ответственность. OpenAI заявила, что агентом управляли ее общедоступная модель GPT-5.6 Sol и внутренний исследовательский прототип, у которых были отключены средства защиты. Инцидент произошел во время тестирования моделей в ExploitGym, который оценивает способность AI находить и эксплуатировать уязвимости. Эксперты считают, что агент по сути пытался сжульничать, ища ключи ответов на серверах Hugging Face. Они отмечают, что использованные уязвимости распространены, и инцидент скорее свидетельствует о недостатках практик безопасности, а не о проблеме AI.
