Meta выпустила персонального ИИ-агента Muse с упором на конфиденциальность

Meta во вторник объявила о выпуске Muse — персонального ИИ-агента, которому можно отправлять сообщения для автоматизации цифровых задач в защищённой облачной среде. Компания заявляет, что безопасность и конфиденциальность встроены в продукт с самого начала.

Muse с сегодняшнего дня доступен в отдельном приложении для iOS и Android, а также на сайте Muse.ai. Пользователи могут напрямую общаться с агентом в WhatsApp. По словам Meta, скоро с Muse смогут взаимодействовать и владельцы ИИ-очков компании. Попробовать Muse можно бесплатно, но автоматизация большого количества цифровых задач потребует одной из ИИ-подписок Meta.

Muse — это ответ Meta таким вирусным ИИ-агентам, как OpenClaw и Instinct. Агент создан в Meta Superintelligence Labs — подразделении, которое гендиректор Марк Цукерберг сформировал около года назад, чтобы догнать OpenAI и Anthropic. WIRED ранее сообщал, что Muse тестировался внутри Meta под кодовым названием "Hatch", и сотрудники использовали его для управления сторонними приложениями и просмотра веб-страниц.

Meta утверждает, что продукт не требует обучения: пользователь даёт агенту указания на естественном языке, и Muse может отправлять электронные письма, бронировать поездки или помогать продать автомобиль. Muse также совершает покупки через платёжную инфраструктуру Stripe под названием Link, которая выдаёт одноразовый номер карты, чтобы агенты не вводили в интернете настоящие финансовые данные человека. Meta говорит, что Muse — первый ИИ-агент, на который распространяется защита покупок Link для агентов, предусматривающая бесплатный возврат.

Meta, как видно, пытается выделиться за счёт функций безопасности и конфиденциальности. Агент дебютирует с архитектурой Secure VM, которая изолирует активность каждого пользователя в отдельной виртуальной машине и отделяет недоверенные данные из интернета и интеграций от той части агента, которая может совершать действия. Созданная Meta система "Sentinel" отслеживает всё, что покидает виртуальную машину, и, если действие не разрешено существующей политикой, выводит запрос на одобрение пользователю. Эти запросы приходят к человеку напрямую, минуя модель, чтобы защититься от prompt-инъекций.

Meta признаёт, что Secure VM — не полностью закрытая система. Политика запрещает компании доступ к данным Muse, но технически это было бы возможно. Пользователи могут отказаться от использования своих данных для обучения. В будущем Meta планирует предложить версию "Confidential VM", в которой каждая виртуальная машина работает в доверенной среде исполнения, а пользователи хранят ключи доступа локально на своих устройствах. Тогда доступ к виртуальной машине не сможет получить никто, включая саму Meta. Это решение разрабатывается в сотрудничестве с Мокси Марлинспайком, создателем Signal и автором платформы Confer.

WIRED ознакомился с черновиком технического документа, описывающего Confidential VM. Meta предоставит избранным компаниям доступ к исходному коду для регулярных аудитов, а также опубликует бинарные файлы и журнал прозрачности, чтобы пользователи могли проверить подлинность соединения. По словам Дэвида Синглтона, вице-президента Meta Superintelligence Lab по инжинирингу потребительских продуктов, Secure VM уже прошла проверку как человеческими, так и агентными "красными командами", а также через внутреннюю программу поощрений. Теперь Meta добавляет Muse в публичную программу вознаграждений: за найденные уязвимости можно получить до 300 000 долларов, в том числе до 130 000 долларов за успешную prompt-инъекцию, затрагивающую одного пользователя.