Во Флориде арестована женщина после угроз, написанных ИИ-чат-боту

В американском штате Флорида задержана 30-летняя женщина: в её переписке с чат-ботом на основе искусственного интеллекта (ИИ) Claude были обнаружены угрозы нападения на местное правоохранительное учреждение. Случай показывает, что разговоры с такими ботами не полностью конфиденциальны: опасное содержание могут заметить и передать полиции. Об этом сообщило издание Bild со ссылкой на заявления полиции.

Что произошло

По данным полиции, в конце сентября женщина написала ИИ, что хочет напасть на здание управления шерифа округа Ли. На следующий день она якобы заявила, что приобрела новое оружие.

Следователи сообщают, что женщина использовала Claude как цифровой дневник. Системы безопасности бота зарегистрировали сообщения и классифицировали их как возможную угрозу. Затем сотрудники компании-разработчика Anthropic проверили эту переписку. Поскольку угрозы сочли правдоподобными, компания уведомила полицию. Таким образом, власти были предупреждены не знакомым или родственником, а самой компанией.

Задержание и обвинение

Правоохранители задержали женщину в её доме 30 сентября. Ей предъявлено обвинение в письменных угрозах применения насилия. Во Флориде за такое правонарушение grозит до 15 лет лишения свободы. Судебное заседание назначено на ноябрь.

Что это значит для пользователей

Поставщики ИИ-сервисов следят за своими системами, чтобы выявлять опасный контент. Если распознаются конкретные угрозы или признаки насилия, данные могут быть переданы правоохранительным органам. Это относится и к другим чат-ботам, например ChatGPT и Gemini.