Meta приостановила обмен чатами Muse после того, как исследователи нашли переписки в открытом интернете
Meta временно отключила функцию обмена беседами в ИИ-ассистенте Muse: охранная компания Claroc обнаружила более 6800 таких ссылок в публичных DNS-записях.
Компания Meta приостановила в своём ИИ-ассистенте Muse функцию, позволяющую делиться беседами. Поводом стал отчёт охранной фирмы Claroc, опубликованный на этой неделе: его авторы выяснили, что страницы с общими беседами можно найти в открытом интернете. Первым об этом сообщил Ars Technica.
Как нашли ссылки
По данным Claroc, в публичных DNS-записях, которые служат своего рода справочником для веб-трафика, нашлось более 6800 ссылок Muse. Функция создаёт страницу, доступную каждому, у кого есть ссылка. Но устройство ссылок облегчало их поиск: Muse формирует адрес из названия беседы, короткой фразы с описанием содержания, и случайного идентификатора. Как отмечают исследователи, по имени хоста обычно можно было понять, что находится на странице, ещё до её открытия, а имя хоста из DNS позволяло восстановить полную ссылку.
Что оказалось доступно
Исследователи смогли просмотреть сотни бесед в Muse. Среди них были отчёт о выручке маркетинговой компании, заявка на кредит от владельца небольшого бизнеса, календарь сотрудников организации на весь год и заметки кандидата на должность к разговору с ИИ-лабораторией.
Ответ Meta
Представитель Muse Трейси Клейтон (Tracy Clayton) в письменном заявлении The Verge пояснила, что пользователи могут делиться отдельными материалами Muse, создавая страницу, доступную всем, у кого есть ссылка. Компания приостановила эту функцию, пока изучает отчёт и обдумывает изменения в том, как такие ссылки можно обнаружить.
Это не первый случай, когда функции обмена в ИИ-сервисах делали чаты более публичными, чем предполагалось. Беседы с ChatGPT от OpenAI, Claude от Anthropic и Grok от xAI ранее попадали в поиск Google.
