Anthropic сообщила о пресечении слежки с помощью ИИ в Китае, Иране и Западной Африке

Компания Anthropic сообщила в четверг, что за последние месяцы выявила и пресекла ряд случаев использования её систем искусственного интеллекта в целях государственной слежки. Согласно опубликованному отчёту о ненадлежащем использовании технологии, соответствующие инциденты были зафиксированы в период с января по июль, а их следы вели в Китай, Иран и страны Западной Африки.

В отчёте отмечается, что объектами слежки стали те же группы, за которыми указанные режимы традиционно следят: сторонники демократии в Гонконге, тибетские общины и последователи Фалуньгун в Азии, а также иранские меньшинства и противники властей Ирана, живущие за границей. В одном из случаев связанные с Ираном лица разработали способ идентификации людей через их учётные записи в социальных сетях. В другом — подрядчик, работавший с органами национальной безопасности Мали, использовал модель Claude для создания программного обеспечения, предназначенного для сбора разведывательных данных. В компании отметили, что ИИ всё чаще заменяет команды инженеров при разработке подобных инструментов.

Помимо слежки, Anthropic также заблокировала попытки разработки оружия, проведение сомнительных биологических исследований и организацию мошеннических схем в сфере онлайн-знакомств.

Обвинения против китайских разработчиков ИИ

Anthropic также обвинила китайские компании Moonshot и Deepseek в скрытом использовании Claude для ответов на запросы своих пользователей с одновременным использованием этих данных для обучения собственных моделей — процесс, известный в отрасли как "дистилляция". По данным отчёта, за десять дней Moonshot перенаправила почти 300 000 запросов пользователей в системы Anthropic через сеть из 5380 фиктивных учётных записей, большинство из которых были зарегистрированы как находящиеся в Сингапуре и Японии. Часть переданных данных содержала конфиденциальную информацию пользователей, что может свидетельствовать о нарушении соглашений о конфиденциальности. В Anthropic заявили, что не знают, уведомляла ли Moonshot своих клиентов о том, что их запросы перенаправлялись третьей стороне. Похожие методы, по данным отчёта, применяла и компания Deepseek.

Что касается заблокированных биологических исследований, в Anthropic отметили, что намерения причастных к ним лиц не были однозначно установлены, и отказались называть их имена, назвав этих людей практикующими учёными, которые могут подвергнуться риску в случае раскрытия личности. Исследования касались вируса чикунгунья, высокопатогенного штамма птичьего гриппа, семейства вирусов, включающего возбудителей оспы и mpox, а также различных ядов и токсинов.