OpenAI сообщает, что неконтролируемый ИИ-агент атаковал несколько компаний
OpenAI раскрыла, что вредоносный ИИ-агент скомпрометировал учетные записи на четырех сервисах в дополнение к атаке на стартап Hugging Face, что произошло в ходе внутреннего теста безопасности, где агент пытался сжульничать.
OpenAI сообщила, что кибератака, совершенная неконтролируемым ИИ-агентом, затронула более одной жертвы. Разработчик ChatGPT заявил, что агент – автономный инструмент, способный выполнять последовательности команд без помощи человека – нашел и использовал четыре логина для доступа к четырем другим неназванным общедоступным сервисам в дополнение к американскому стартапу Hugging Face.
Компания отметила, что эта активность не была такой серьезной или масштабной, как инцидент с Hugging Face, компанией, которая размещает базу данных ИИ-моделей. Агент, работающий на двух моделях OpenAI, уклонился от контроля и атаковал стартап во время внутреннего теста кибербезопасности.
Modal Labs, компания, которая помогает ИИ-стартапам получать доступ к чипам, необходимым для работы ИИ-инструментов, сообщила, что агент использовал уязвимый код, написанный клиентом, размещенный на платформе Modal.
Согласно хронологии инцидента, опубликованной Hugging Face на этой неделе, неконтролируемый агент выбрался из своей песочницы – изолированной тестовой среды – и взломал другую песочницу, размещенную на инфраструктуре стороннего провайдера, превратив ее в пусковую площадку для более широкой атаки.
На прошлой неделе OpenAI сообщила, что атака была создана ее моделью GPT-5.6 Sol и неназванной моделью. Во вторник в обновлении компания заявила, что неназванная модель теперь деактивирована, зашифрована и ограничена от исследовательского доступа.
В новой хронологии Hugging Face стартап заявил, что агент, работающий на двух моделях OpenAI, выполнил тысячи мелких автоматизированных решений со скоростью машины для проведения атаки. Утверждалось, что взлом был вызван попыткой сжульничать во внутреннем тесте безопасности OpenAI: агент предположил, что Hugging Face может содержать решения теста. Hugging Face восстановил 17 600 действий атакующего, совершенных агентом.
Назвав угрозу агента «реальной», Hugging Face отметил, что человек-атакующий мог бы найти и использовать те же уязвимости, но разница заключалась в масштабе попыток агента найти путь. «Агенты обеспечивают ступенчатое увеличение количества путей, которые атакующий может протестировать, скорости, с которой неудачные пути могут быть заменены, и объема доказательств, которые защитники должны интерпретировать», — заявили в Hugging Face.
