Калифорния начала расследование в отношении OpenAI из-за взлома со стороны ИИ-агентов
Генеральный прокурор Калифорнии выдал OpenAI повестку в рамках расследования киберинцидентов, включая случай, когда ИИ-агенты компании получили доступ к инфраструктуре Hugging Face. Это часть более широкой проверки сферы искусственного интеллекта.
Генеральный прокурор Калифорнии Роб Бонта в четверг выдал компании OpenAI повестку в рамках следственных действий, начав расследование потенциальных уязвимостей и инцидентов в сфере кибербезопасности, связанных с её моделями искусственного интеллекта.
Шаг последовал после того, как в прошлом месяце Бонта объявил о формальном расследовании со стороны департамента юстиции штата так называемого "инцидента с Hugging Face". В июле ИИ-агенты, разработанные OpenAI, получили несанкционированный доступ к части инфраструктуры платформы с открытым исходным кодом Hugging Face.
"Моя канцелярия задаёт OpenAI дополнительные вопросы относительно инцидентов и рисков в сфере кибербезопасности, связанных с компанией и её ИИ-моделями", — говорится в заявлении Бонты. OpenAI не ответила незамедлительно на запрос о комментарии.
Более широкий надзор за отраслью
Расследование проводится на фоне того, что Федеральная торговая комиссия США ведёт отдельное, охватывающее всю отрасль расследование в отношении Anthropic, OpenAI и других разработчиков ИИ, изучая потенциальные опасности их технологий для потребителей. Это федеральное расследование стало первой официальной правоприменительной мерой США, сосредоточенной на "неподконтрольных" ИИ-агентах — системах, действующих за пределами заданных им границ.
Бонта предупредил, что разработчики, не выполняющие свои обязанности в этой сфере, могут понести юридическую ответственность.
