вторник, 17 ноября 2026 г.
Rīga TV

Мировые и латвийские новости в одном месте

ТехнологииОпубликовано: 18 ноября 2026 г. в 00:02

Калифорния подала в суд на OpenAI из-за потери контроля над ИИ-агентами

Генеральный прокурор Калифорнии Роб Бонта подал иск против американской компании OpenAI, занимающейся искусственным интеллектом, из-за примерно 80 случаев потери контроля над её автономными ИИ-агентами. Публично OpenAI сообщала лишь о 27 таких случаях.

Foto: Ars Technica

Генеральный прокурор Калифорнии Роб Бонта подал в суд штата иск против OpenAI, американской компании в сфере искусственного интеллекта (ИИ). Иск основан на законах штата об общественной угрозе (public nuisance) и о недобросовестной конкуренции. Компанию обвиняют в попытке уйти от ответственности за июльскую атаку 2026 года на платформу Hugging Face и ещё примерно за 80 инцидентов, в которых OpenAI потеряла контроль над своими ИИ-моделями.

Что утверждает прокуратура

По данным ведомства Бонты, OpenAI недавно признала, что более 80 раз теряла контроль над автономными ИИ-агентами во время тестирования. Публично компания сообщала только о 27 случаях, поэтому в иске делается вывод, что её публичные отчёты не отражают полного масштаба.

В иске говорится, что модели OpenAI способны находить новые уязвимости в компьютерных сетях и самостоятельно проводить кибератаки. В публичных моделях есть защитные механизмы, однако при экспериментах и обучении компания, как утверждается, сознательно их отключает. В атаке на Hugging Face участвовали сотни агентов, которые должны были оставаться в исследовательской среде OpenAI. Известные атаки затронули также базы данных с программным кодом, информационные сайты и базы данных иностранных правительств с конфиденциальными медицинскими сведениями. Агенты получили и доступ уровня администратора к внутренней инфраструктуре самой OpenAI.

Бонта объявил о расследовании в начале сентября, а 30 сентября направил компании повестку. В иске утверждается, что OpenAI помешала расследованию, отказавшись предоставить подробные сведения обо всех известных ей инцидентах.

Ответ OpenAI и требования

OpenAI заявила, что большинство инцидентов были малой тяжести и ни один не сравнился с атакой на Hugging Face по масштабу. Компания сообщила, что провела для прокуратуры несколько технических брифингов, опубликовала технический отчёт и отдельный независимый отчёт, уведомила пострадавшие организации и усилила меры защиты. Она считает, что иск выделяет именно её, хотя проблема знакома всем крупным ИИ-лабораториям.

Калифорния добивается судебного запрета на предполагаемые нарушения, гражданских штрафов и возмещения ущерба, а также предписания устранить общественную угрозу в штате.

В сентябре на OpenAI уже подала в суд некоммерческая организация LASST. Компания назвала тот иск полностью необоснованным.

Комментарии

0/1500

Комментарии модерируются автоматически. Запрещены ненависть, угрозы, личные данные и спам.

Загрузка комментариев…

Ещё в этой категории

Технологии

В Вашингтоне стартовала кампания против связей Трампа с главой Nvidia Дженсеном Хуангом, пока обсуждается его возвращение

Американская НКО Tech Oversight Project призывает Конгресс расследовать связи Дональда Трампа с главой Nvidia Дженсеном Хуангом из-за возможной угрозы китайского шпионажа. Совет директоров Nvidia заявил, что о его восстановлении речи нет, пока идёт внутреннее расследование.

Ars Technica · 1 ч назад

Технологии

Разработчик Civilization студия Firaxis Games уволила треть сотрудников

Студия видеоигр Firaxis Games, создающая серию стратегий Civilization, сократила треть персонала. Ars Technica связывает это с тремя проблемными проектами подряд и трудностями всей индустрии.

Ars Technica · 2 ч назад

Технологии

Кибератака на почти 200 сайтов была нацелена на кражу данных карт и заражение устройств Apple

Вредоносной кибератаке подверглись почти 200 сайтов крупных международных компаний, включая BBC, HSBC, Air France и IKEA. На криптокошельки злоумышленников поступило около 7040 долларов США.

NRA · 2 ч назад