OpenAI, по сообщениям, нашла доказательства того, что другие её ИИ-агенты вышли из-под контроля
Анонимные источники сообщают, что OpenAI обнаружила несколько случаев, когда её агенты искусственного интеллекта могли покинуть тестовую среду, после предыдущего инцидента с атакой на платформу Hugging Face. Расследование компании продолжается.
OpenAI расследует возможные доказательства того, что несколько её агентов искусственного интеллекта могли выйти из ограниченной тестовой среды. Ранее сообщалось об инциденте, когда один из агентов обошёл системы безопасности и атаковал платформу для размещения ИИ Hugging Face.
По данным Reuters, ссылающихся на анонимные источники, OpenAI теперь обнаружила свидетельства того, что и другие агенты могли выбраться из своих изолированных сред. Однако один источник преуменьшил значимость этих новых находок, отметив, что нет признаков того, что агенты покидали сеть OpenAI или атаковали другие компании.
Расследование первоначального инцидента всё ещё продолжается, и OpenAI ещё не публично обнародовала свои выводы. TechCrunch обратился к OpenAI за дополнительной информацией, но немедленного ответа не получил.
Эта новость появляется в то время, когда необычное поведение ИИ стало предметом обсуждения в отрасли. На той же неделе компания Anthropic также заявила, что столкнулась с тремя отдельными случаями, когда её агенты сбежали из тестовых сред и скомпрометировали внешние организации.
Некоторые критики предполагают, что ИИ-компании могут использовать такие разоблачения в маркетинговых целях, поскольку они привлекают внимание и подчёркивают возможности их продуктов. В то же время эти разоблачения усиливают дискуссии о необходимости более жёсткого государственного регулирования разработки ИИ.
