Ссылки для обмена в ИИ-агенте Meta Muse раскрывают личные переписки пользователей
Исследователи охранной компании Claroc выяснили, что ссылки для обмена в ИИ-агенте Meta Muse позволяют легко находить личные разговоры пользователей. Meta приостановила функцию обмена.
Muse, новый универсальный ИИ-агент компании Meta, может раскрывать конфиденциальную информацию, когда пользователи делятся разговорами по веб-ссылкам. Об этом в понедельник сообщили исследователи охранной компании Claroc. После вопросов издания Ars Technica в Meta заявили, что приостанавливают функцию обмена на время проверки и рассматривают возможные изменения.
Как нашли ссылки
Muse позволяет создать уникальную ссылку на разговор или другой материал, которую может открыть любой, у кого она есть. Обычно в таких адресах есть длинная, трудно угадываемая последовательность символов. В Muse подход похож, но название разговора помещено в поддомен, а не в путь адреса. Все ссылки используют домен cf.metaaiusercontent.com, поэтому их можно найти через пассивный DNS-поиск. База пассивного DNS хранит исторические записи о том, как доменные имена сопоставляются с IP-адресами; после открытия ссылки запись попадает в базу, доступную для поиска.
Таким способом исследователи Claroc перечислили 6800 ссылок. Открыв несколько сотен, они нашли данные, явно не предназначенные для публикации: заметки кандидата к конфиденциальному разговору с ИИ-лабораторией, внутренний отчёт компании о выручке, кредитную заявку владельца малого бизнеса, список дел с предупреждением банка о мошенничестве, отчёт инвестора в недвижимость и календарь отпусков с десятками сотрудников.
Сооснователь и технический директор Claroc Асаф Апрозпер (Asaf Aprozper) сообщил, что 8 октября направил информацию через программу вознаграждения за уязвимости Meta и пытался связаться с сотрудниками компании в LinkedIn, но ответа не получил.
Контекст
Muse самостоятельно заполняет формы, записывает на приём, совершает покупки и создаёт документы, поэтому ему нужен доступ к большинству аккаунтов пользователя. Глава Meta Марк Цукерберг говорил, что агент создан с учётом приватности и безопасности. Через три недели после запуска эксперт по безопасности Патрик Уордл (Patrick Wardle) обнаружил уязвимость, позволявшую другому приложению на устройстве захватить аккаунт Muse. В Meta занизили её серьёзность, указав, что для атаки устройство должно быть уже скомпрометировано.
