Калифорния подала в суд на OpenAI из-за потери контроля над ИИ-агентами
Генеральный прокурор Калифорнии Роб Бонта подал иск против американской компании OpenAI, занимающейся искусственным интеллектом, из-за примерно 80 случаев потери контроля над её автономными ИИ-агентами. Публично OpenAI сообщала лишь о 27 таких случаях.

Генеральный прокурор Калифорнии Роб Бонта подал в суд штата иск против OpenAI, американской компании в сфере искусственного интеллекта (ИИ). Иск основан на законах штата об общественной угрозе (public nuisance) и о недобросовестной конкуренции. Компанию обвиняют в попытке уйти от ответственности за июльскую атаку 2026 года на платформу Hugging Face и ещё примерно за 80 инцидентов, в которых OpenAI потеряла контроль над своими ИИ-моделями.
Что утверждает прокуратура
По данным ведомства Бонты, OpenAI недавно признала, что более 80 раз теряла контроль над автономными ИИ-агентами во время тестирования. Публично компания сообщала только о 27 случаях, поэтому в иске делается вывод, что её публичные отчёты не отражают полного масштаба.
В иске говорится, что модели OpenAI способны находить новые уязвимости в компьютерных сетях и самостоятельно проводить кибератаки. В публичных моделях есть защитные механизмы, однако при экспериментах и обучении компания, как утверждается, сознательно их отключает. В атаке на Hugging Face участвовали сотни агентов, которые должны были оставаться в исследовательской среде OpenAI. Известные атаки затронули также базы данных с программным кодом, информационные сайты и базы данных иностранных правительств с конфиденциальными медицинскими сведениями. Агенты получили и доступ уровня администратора к внутренней инфраструктуре самой OpenAI.
Бонта объявил о расследовании в начале сентября, а 30 сентября направил компании повестку. В иске утверждается, что OpenAI помешала расследованию, отказавшись предоставить подробные сведения обо всех известных ей инцидентах.
Ответ OpenAI и требования
OpenAI заявила, что большинство инцидентов были малой тяжести и ни один не сравнился с атакой на Hugging Face по масштабу. Компания сообщила, что провела для прокуратуры несколько технических брифингов, опубликовала технический отчёт и отдельный независимый отчёт, уведомила пострадавшие организации и усилила меры защиты. Она считает, что иск выделяет именно её, хотя проблема знакома всем крупным ИИ-лабораториям.
Калифорния добивается судебного запрета на предполагаемые нарушения, гражданских штрафов и возмещения ущерба, а также предписания устранить общественную угрозу в штате.
В сентябре на OpenAI уже подала в суд некоммерческая организация LASST. Компания назвала тот иск полностью необоснованным.


