Как мошенники используют инструменты искусственного интеллекта

Латвийский центр безопасного интернета отмечает, что развитие искусственного интеллекта существенно изменило характер мошеннических схем — письма с грамматическими ошибками, типичные для прошлого, уже неактуальны. В начале февраля, в честь Дня безопасного интернета, на конференции в Латвии впервые был проведён тест Алана Тьюринга, в котором 220 педагогов и учеников пытались отличить ответы известных общественных деятелей от текстов, созданных искусственным интеллектом. Участники ошиблись почти в 41% случаев, значительно превысив 30-процентный порог, что по критериям теста означает победу искусственного интеллекта.

Что умеют современные технологии

По словам экспертов, достаточно нескольких секунд общедоступной аудиозаписи, чтобы создать практически неотличимую копию голоса, которую используют в мошеннических звонках. Такие инструменты, как ChatGPT, а также их нелегальные версии без ограничений, позволяют создавать грамматически безупречные, персонализированные письма на любом языке. Даже без глубоких технических знаний злоумышленники могут быстро создавать поддельные сайты или вредоносный код, а автоматический анализ публичных профилей в соцсетях помогает формировать психологически точные сообщения для конкретных жертв.

Среди распространённых приёмов — видео-дипфейки с участием известных людей, якобы рекламирующих инвестиции или криптовалюты, срочные звонки с клонированным голосом с просьбой перевести деньги, крайне персонализированные фишинговые письма, поддельные новостные сайты с вводящими в заблуждение статьями, а также армии сгенерированных ИИ профилей в соцсетях, создающих ложное впечатление популярности и доверия.

Как себя защитить

Представитель образовательной программы Drossinternets.lv Карлина Шадре советует несколько мер предосторожности. Семьям стоит договориться о секретном слове или фразе для подтверждения личности, если подозрительный звонок якобы поступает от родственника, попавшего в беду. Безупречный язык больше не является признаком подлинности — внимание следует обращать на содержание, а не на форму, особенно если сообщение создаёт ощущение срочности или обещает нереальную прибыль. В видеозвонках всё ещё можно заметить признаки подделки, например неестественное моргание или несовпадение движений губ со звуком; в случае сомнений можно попросить собеседника повернуть голову или прикрыть лицо рукой. Эффективной остаётся двухфакторная аутентификация, а запросы на подтверждение никогда не следует одобрять, если сам человек не инициировал действие. Наконец, не стоит принимать поспешных решений под давлением, когда кто-то требует перевести деньги или предоставить данные.

Эксперты заключают, что искусственный интеллект сам по себе не опасен — риск возникает тогда, когда созданному им контенту доверяют без проверки источника. Критическое мышление, по их мнению, остаётся самым эффективным средством защиты от подобного мошенничества.