У ИИ-ассистента Meta под названием Muse обнаружена серьёзная уязвимость
Исследователь безопасности обнаружил критическую уязвимость в ИИ-ассистенте Meta Muse, позволяющую любому локальному приложению или команде терминала захватить учётную запись пользователя. Amazon уже начал блокировать Muse на своём сайте.
Глава Meta Марк Цукерберг заявлял, что новый ИИ-ассистент Muse изначально создавался с упором на приватность и безопасность. Однако серьёзная уязвимость, обнаруженная исследователем безопасности macOS Патриком Вардлом, ставит эти заявления под сомнение.
Muse, запущенный несколько недель назад, умеет записывать на приём, заполнять формы, совершать покупки, создавать изображения и документы, а также подключаться к WhatsApp, электронной почте, календарю и соцсетям пользователя. Для работы ему требуется широкий доступ к защищённым ресурсам macOS — записи файлов, микрофону, камере и геолокации.
Как работает атака
Вардл выяснил, что любое локально установленное приложение или выполненная команда терминала может изменять длинный список недокументированных настроек Muse независимо от предоставленных ему разрешений macOS. Одна из таких настроек управляет сервером, на который отправляется голос для транскрипции. Обычно это сервер Meta, но злоумышленник может перенаправить его на собственный адрес и таким образом получить токен аутентификации, дающий полный контроль над учётной записью Muse жертвы.
По словам Вардла, он создал несколько демонстрационных атак, позволяющих незаметно для пользователя записывать вредоносные файлы на диск или делать снимки камерой. Он отметил, что для полного захвата аккаунта достаточно простого варианта атаки типа ClickFix.
Meta молчит, Amazon действует
Представители Meta не ответили на вопросы об уязвимости. За последние недели компания опубликовала два поста в блоге, описывающих подход к безопасности Muse. Примерно за 12 часов до публичного раскрытия уязвимости Amazon начал блокировать использование Muse для покупок на своём сайте, заявив, что это неавторизованный ИИ-агент, нарушающий условия использования площадки.
Вардл, основатель организации Objective-See Foundation и автор серии книг о вредоносном ПО для Mac, планирует подробнее рассказать об уязвимости на конференции по безопасности в ноябре.
