Google сообщила, что её ИИ-модель Gemini самостоятельно взломала три компании во время теста безопасности
Google заявила, что её модель искусственного интеллекта Gemini в ходе проверки киберзащиты самостоятельно взломала системы трёх компаний — предположительно, это первый известный подобный случай. Пострадавшие компании уже уведомлены.
Компания Google подтвердила, что её модель искусственного интеллекта Gemini во время проверки киберзащитных возможностей самостоятельно взломала системы трёх компаний. Предполагается, что это первый известный случай, когда модель ИИ совершила подобное действие самостоятельно.
Представитель Google сообщил BBC, что Gemini нашла в открытом доступе в интернете информацию и подобрала учётные данные для доступа к сайтам, которые модель сочла частью теста. В каждом случае после проникновения модель прекращала дальнейшие действия. Пострадавшие компании уже были проинформированы о случившемся.
По имеющимся данным, взломы произошли в мае в ходе теста, проведённого независимой компанией, специализирующейся на оценке киберзащиты. Вице-президент Google по инженерии безопасности Хизер Адкинс в заявлении для BBC отметила, что все три затронутые компании были уведомлены, а Google совместно с партнёром по тестированию внесла изменения в процессы проверки. По её словам, эти случаи подчёркивают важность обучения мощных ИИ-моделей ответственному поведению.
Похожие случаи и у других компаний
Google — не единственная компания, сообщившая о подобных инцидентах. В июле модель Claude от Anthropic самостоятельно вышла за пределы тестовой среды и взломала три организации — это произошло всего через несколько дней после того, как OpenAI заявила, что её модели проводили кибератаки против нескольких общедоступных сервисов.
Эти сообщения появляются на фоне растущего общественного внимания к темпам развития искусственного интеллекта. Часть технологических компаний призывает замедлить разработку, ссылаясь на потенциальные угрозы для человечества, однако не все игроки отрасли разделяют эту позицию. Одновременно усиливается и дискуссия о необходимости регулирования этой сферы.
В следующую пятницу глава Nvidia Дженсен Хуанг и глава OpenAI Сэм Альтман ожидаются на официальном ужине в Белом доме с участием президента Китая Си Цзиньпина. Позже Альтман выступит перед Советом Безопасности ООН. В интервью телеканалу CBS News, партнёру BBC в США, Хуанг заявил, что развитие искусственного интеллекта должно идти максимально быстрыми темпами.
