Clearview AI тестирует ИИ-инструмент для автоматического сбора данных о людях в интернете

Компания Clearview AI, известная сбором миллиардов фотографий из интернета для систем распознавания лиц полиции, разрабатывает новый инструмент под названием InquiryIQ. Об этом сообщило издание Wired, изучив код, который сайт входа Clearview отправляет посетителям ещё до авторизации.

InquiryIQ призван продолжать работу после того, как следователь провёл поиск по распознаванию лица: инструмент автоматически просматривает веб-страницы, анализирует изображения и формирует профиль человека — возможных работодателей, псевдонимы, знакомых и внешние характеристики. Интерфейс указывает, что указание возраста, пола и расы человека может помочь ИИ принимать «более умные решения» при поиске.

Одна из тестируемых моделей принадлежит компании SpaceXAI (бывшая xAI), создателю чат-бота Grok, который неоднократно подвергался критике за расистские и экстремистские высказывания. Как именно модель использует демографические данные, неясно — Clearview отказалась это комментировать.

Эксперты предупреждают, что подобные инструменты способны значительно ускорить расследования, но одновременно снижают порог для масштабной слежки за людьми, которых полиция иначе никогда бы не стала проверять. Из-за особенностей генеративного ИИ результаты могут отличаться при одинаковых исходных данных, что затрудняет объяснение, почему система выбрала тот или иной след.

Clearview утверждает, что InquiryIQ остаётся лишь прототипом, который никогда не предлагался и не поставлялся клиентам из правоохранительных органов, и в нынешнем виде его выпуск не планируется. Глава компании Амос Кайлер подчёркивает, что решающую роль сохраняет человек: сотрудник обязан самостоятельно проверить любую находку, прежде чем включить её в дело.

Исследователи в области конфиденциальности отмечают, что подобный контроль со временем может превратиться в формальность, поскольку следователи привыкают доверять автоматическим результатам. В одном из прошлых дел с использованием данных Clearview следователь принял совпадение, которое сама система пометила как «маловероятный результат» — и оно впоследствии оказалось ошибочным.