Claude может управлять почтой, но это связано с рисками
ИИ-ассистент Claude от Anthropic теперь может управлять почтовым ящиком Gmail, включая отправку и пересылку писем без предварительного одобрения, однако эксперты предупреждают о серьёзных рисках. Главная угроза — так называемая инъекция промпта, при которой скрытые инструкции во входящем письме могут перехватить управление ИИ.
Компания Anthropic расширила возможности своего ИИ-ассистента Claude, позволив ему управлять учётными записями Gmail пользователей — читать, составлять, отправлять и пересылать письма по запросу. В настройках можно разрешить Claude выполнять эти действия и без подтверждения каждого отдельного шага, что создаёт определённые риски.
Наиболее серьёзная угроза связана с так называемой инъекцией промпта (prompt injection). Злоумышленник может встроить в письмо скрытый текст — например, белым шрифтом на белом фоне или нулевого размера, — который не виден получателю, но может быть прочитан и воспринят Claude как инструкция к действию. Таким способом хакеры теоретически способны следить за почтовым ящиком жертвы или получать конфиденциальные данные, включая коды подтверждения для взлома других аккаунтов. Это не гипотетическая угроза — подобные атаки уже фиксировались на практике.
Второй источник риска — собственные ошибки ИИ. Claude может выдумывать недостоверную информацию или неверно понимать запрос пользователя, из-за чего отправленное от его имени письмо может содержать ошибки, которые получатель заметит раньше отправителя. Есть и более общие опасения по поводу приватности, связанные с передачей Anthropic доступа ко всему содержимому почтового ящика.
Чтобы снизить риски, рекомендуется сохранять активной настройку по умолчанию, требующую подтверждения перед отправкой каждого письма. Пользователям также советуют давать Claude максимально конкретные инструкции, чтобы уменьшить вероятность недопонимания. Полностью предотвратить инъекцию промпта пока невозможно — это признаёт и автор термина Саймон Уиллисон, отмечая, что отрасль до сих пор не нашла надёжного решения этой проблемы. Дополнительная осторожность при работе с незнакомыми отправителями и включение двухфакторной аутентификации на других аккаунтах помогают снизить риск, но не устраняют его полностью. При этом Claude не может безвозвратно удалять письма — он способен лишь переместить их в корзину или архив.
