Google подает в суд на китайскую киберпреступную сеть, использовавшую Gemini для автоматизации мошенничества

Google инициировал судебный процесс против базирующейся в Китае группы Outsider Enterprise, которая предположительно несет ответственность за масштабную мошенническую кампанию с использованием искусственного интеллекта. Компания заявила, что сотрудничает с правоохранительными органами и операторами мобильной связи для борьбы с угрозой.

Согласно судебным документам Google, Outsider Enterprise действует через Telegram. Группа предлагает фишинг как услугу (phishing-as-a-service) лицам, у которых может не быть технических навыков для самостоятельного создания мошеннических сайтов и SMS-кампаний. В Telegram-каналах Outsider Enterprise, как сообщается, давала инструкции по использованию Gemini AI от Google для создания сайтов, имитирующих Google, YouTube и государственные учреждения, такие как E-ZPass Нью-Йорка. Группа предлагала почти 300 шаблонов мошенничества.

Google утверждает, что в результате мошенничества, организованного Outsider Enterprise, пользователям Android было отправлено более 2,5 миллиона текстовых сообщений. Около 55 000 из этих сообщений были отправлены в течение двух недель в прошлом месяце. Всего Google отследил 9000 поддельных веб-сайтов и 1 миллион URL-адресов, связанных с этой мошеннической сетью. В текстовых сообщениях часто упоминались проблемы с учетной записью или доставкой посылки. Когда пользователи нажимали на ссылки, они попадали на поддельные сайты, созданные Gemini, чтобы выглядеть легитимными. Киберпреступники использовали эти сайты для кражи личных данных и банковской информации.

В иске не указывается сумма украденных денег, но в блоге Google отмечается, что сотни людей потеряли некоторые суммы. Google сотрудничал с AT&T, Verizon и T-Mobile, чтобы заблокировать многие из этих вредоносных текстовых сообщений. Google также отмечает, что встроенное обнаружение мошенничества в Google Messages, вероятно, помогло уменьшить количество успешных фишинговых попыток. Эта функция на базе ИИ, как сообщается, ежемесячно блокирует 10 миллиардов мошеннических сообщений, поэтому можно ожидать, что она перехватила хотя бы часть активности Outsider Enterprise.