Meta заявила об исправлении ИИ-подсказок после того, как он пытался выведать личные данные о детях пользователя
Meta подтвердила, что меняет работу своего ИИ-ассистента после того, как в вирусном видео он попытался собрать личную информацию о маленьких дочерях пользовательницы. В компании признали, что функция не должна была задавать подобные вопросы.
Meta сообщила, что меняет способ, которым её ИИ-ассистент формирует предлагаемые подсказки, после того как в сети распространилось видео, показывающее, как инструмент пытался собрать личные данные о маленьких детях пользовательницы.
Об инциденте первым сообщило издание Futurism, а позже его подтвердила представитель Meta Дина Эль-Кассаби в разговоре с The Verge, заявив, что компания "не справилась" и что функция вообще не должна была предлагать подобные вопросы.
Что произошло
Пользовательница Instagram Кали Робинс на прошлой неделе опубликовала видео, показывающее, как Meta AI предложила ей неуместную подсказку после того, как она перепостила ролик из Instagram в Facebook. Под видео, где она вместе со своим ребёнком поёт в машине, ИИ сгенерировал вопрос: "Кто этот ребёнок-пассажир?"
По словам Робинс, после нажатия на эту подсказку Meta AI начала собирать информацию о её дочерях, используя как её собственные прошлые публикации, так и посты родственников. Затем ассистент предложил дополнительные вопросы о возрасте детей и о том, где живёт семья. Робинс также утверждает, что ИИ показал фотографии её дочерей, включая одну, которую она, по её словам, удалила несколько лет назад.
Реакция Meta
Meta встроила своего ИИ-ассистента в Facebook, Instagram, WhatsApp и Messenger, где он может отвечать на вопросы, писать посты и генерировать изображения. В июле компания уже отказалась от отдельной функции, позволявшей создавать ИИ-дипфейки других пользователей Instagram, столкнувшись с серьёзной критикой.
Эль-Кассаби заявила, что проблема, вызвавшая появление подобных личных подсказок, уже устранена. По её словам, функция изначально создавалась, чтобы помочь пользователям узнать больше о темах или публикациях, которые их интересуют, а генерируемый ответ основывается только на информации, к которой у пользователя уже есть доступ. В случае с Робинс, по словам Эль-Кассаби, ИИ мог использовать данные из видео, в которых она сама называла имена своих детей.
