Meta приостановила функцию обмена чатами Muse после утечки личных данных

Технологическая компания Meta приостановила функцию обмена чатами на своей платформе искусственного интеллекта Muse после того, как исследователи охранной фирмы Claroc обнаружили, что любой человек потенциально может найти и открыть личные разговоры пользователей. Muse — это платформа агентного ИИ, то есть способного выполнять задачи от имени пользователя; Meta представила её в прошлом месяце. Проблема с конфиденциальностью выявилась вскоре после запуска.

Как можно было найти ссылки

Чтобы поделиться разговором, пользователь создавал ссылку. По объяснению Claroc, у всех таких ссылок был один и тот же домен, а в поддомене использовалось название беседы. Этот адрес записывался в публичные данные DNS. Пассивный DNS — это записи о том, как понятные человеку доменные имена сопоставляются с IP-адресами, которые используют браузеры; по сути, это телефонная книга интернета.

В блоге Claroc говорится, что один поисковый запрос по пассивному DNS возвращает тысячи таких адресов, перечисленных по названиям, как оглавление.

Что оказалось доступным

Исследователи перечислили 6800 ссылок на общие чаты Muse и смогли просмотреть частную информацию как из делового, так и из личного использования сервиса. Среди открытых данных были время встреч с передовой лабораторией ИИ, заявка на кредит для малого бизнеса, банковское уведомление о мошенничестве с частичными данными счёта, календарь отпусков компании и другие внутренние документы.

Реакция Meta

Первым о работе Claroc сообщило издание Ars Technica. Meta заявила ему, что приостановила эту функциональность, пока изучает отчёт и рассматривает изменения в том, как такие ссылки могут быть обнаружены. Claroc также отметила, что после обновления Meta её исследователи не смогли открыть часть ссылок, к которым получали доступ ранее.