В Западной Австралии в ходе испытаний системы распознавания лиц просканировали более миллиона человек, произведено 122 ареста
Полиция Западной Австралии завершила пятимесячное испытание технологии распознавания лиц в реальном времени: просканировано 1 380 882 лица, арестован 122 человек. Правозащитники критикуют способ, которым полиция рассчитала долю ошибок.
Полиция австралийского штата Западная Австралия в субботу завершила пятимесячное испытание технологии распознавания лиц в реальном времени, в ходе которого было просканировано 1 380 882 лица. Система привела к 122 арестам, но также девять раз выдала ошибочный сигнал. Испытание вызвало споры о приватности и возможной предвзятости алгоритмов.
Результаты испытания
По данным полиции, технологию применяли 100 раз в 43 местах — как в городах, так и в регионах. Помимо 122 арестов, сигналы побудили сотрудников связаться с 146 зарегистрированными сексуальными преступниками, а ещё 10 человек были найдены для проверки их благополучия.
Три операции прошли на Королевской выставке в Перте (Perth Royal Show). Там просканировали 223 749 лиц, поступило 15 сигналов, произведено три ареста и состоялось семь «взаимодействий» с зарегистрированными сексуальными преступниками.
Представитель полиции подтвердил девять ошибочных сигналов на примерно 1,38 млн сканирований, то есть доля ошибок составила 0,00065 %. Комиссар полиции Кол Бланч на пресс-конференции в воскресенье заявил, что никто из ошибочно отмеченных людей не был арестован и никто не подал жалобу, а сотрудники поговорили с каждым и задали уместные вопросы. Он признал, что технология не идеальна, и власти знали об этом до начала испытания.
Критика
Билл Роулингс, глава организации Civil Liberties Australia, защищающей гражданские свободы, считает, что полиция представляет показатель слишком благоприятно. По его мнению, реальную долю ошибок станет известна лишь после рассмотрения в суде дел всех 122 арестованных: если половина не будет осуждена, она составит 50 %. Он также заявил, что сканирование проводилось без обоснованных подозрений.
Независимый надзорный орган штата по защите приватности — Управление уполномоченного по информации — при объявлении испытания сообщил, что не участвовал в его проведении, и предупредил о «коллективном вреде приватности». Эксперты отмечают, что технология может непропорционально затрагивать маргинализованные группы, поскольку такие алгоритмы исторически чаще ошибались при распознавании людей с более тёмным оттенком кожи.
Как работала система
Камеры, установленные на маркированных полицейских автомобилях или рядом с ними, сканировали лица в определённых общественных местах и сравнивали их со списком оповещения из полицейских баз данных. Полиция утверждает, что изображения людей, не значащихся в списке, в реальном времени пикселизировались и сразу удалялись без сохранения. Фургоны наблюдения сейчас сняты с общественного использования, пока полиция проводит внутреннюю оценку, включая проверку того, были ли соблюдены меры защиты и все требования.
