Clearview AI testē rīku, kas policijai ļautu automātiski apkopot cilvēku digitālās pēdas
Sejas atpazīšanas uzņēmums Clearview AI izstrādā eksperimentālu rīku InquiryIQ, kas ar mākslīgā intelekta palīdzību automātiski meklētu internetā papildu informāciju par policijas identificētām personām. Uzņēmums apgalvo, ka tas ir tikai prototips, kas nekad nav piedāvāts klientiem.
Uzņēmums Clearview AI, kas kļuva pazīstams ar vairāk nekā 3 miljardu interneta fotogrāfiju savākšanu sejas atpazīšanas vajadzībām, tagad izstrādā jaunu rīku ar nosaukumu InquiryIQ. To atklājis izdevums Wired, izpētot kodu, ko Clearview pieteikšanās lapa nosūta jebkuram apmeklētājam vēl pirms autorizācijas.
InquiryIQ paredzēts, lai pēc sejas atpazīšanas meklēšanas automātiski turpinātu izpēti internetā — atvērtu tīmekļa lapas, analizētu attēlus un apkopotu iespējamo darba devēju, pseidonīmu, paziņu un citu datu profilu par personu, kuru izmeklē policija. Sistēmas saskarne norāda, ka vecuma, dzimuma un rases datu ievade var palīdzēt AI pieņemt "gudrākus lēmumus" meklēšanā.
Viens no testētajiem modeļiem ir Grok izstrādātājfirmas SpaceXAI (agrāk xAI) produkts, kas pēdējos gados vairākkārt saistīts ar rasistiskiem un ekstrēmistiskiem izteikumiem. Nav skaidrs, kā šis modelis izmantotu demogrāfiskos datus, un Clearview atteicās to komentēt.
Eksperti brīdina, ka šāds rīks varētu ievērojami paātrināt izmeklēšanu, taču vienlaikus padarītu lētāku un vienkāršāku plašu, mērķtiecīgu uzraudzību pat pret cilvēkiem, kurus policija citādi nekad neizmeklētu. Tāpat AI ģenerēto rezultātu neprognozējamība var apgrūtināt izsekošanu, kāpēc sistēma izvēlējusies vienu vai citu versiju.
Clearview apgalvo, ka InquiryIQ ir tikai prototips, kas nekad nav piedāvāts vai piegādāts tiesībsargājošo iestāžu klientiem un pašlaik nav plānots to izlaist esošajā veidā. Uzņēmuma vadītājs Amoss Kailers uzsver, ka lēmumus par atrasto informāciju joprojām pieņem cilvēks — analītiķim jāapstiprina katrs rezultāts pirms tā iekļaušanas lietā.
Privātuma pētnieki gan norāda, ka "cilvēks lēmumu ķēdē" var kļūt formāls, jo laika gaitā izmeklētāji sāk vienkārši uzticēties automatizētajam rezultātam. Iepriekšējā tiesas lietā, kur izmantoti Clearview dati, atklājies, ka izmeklētājs apstiprinājis pat pašas sistēmas kā "maz ticamu" apzīmētu sakritību, kas galu galā izrādījusies kļūdaina.
