Simtiem nevainīgu mākslīgā intelekta lietotņu slēpj seksuāli vardarbīgu dziļviltojumu funkcijas
Žurnāla WIRED izmeklēšana atklājusi vairāk nekā 400 savstarpēji saistītu domēnu un lietotņu tīklu, kas ar ikdienišķu pieteikumu aizsegu ļauj veidot eksplicītus dziļviltojumus. Apple un Google lielāko daļu lietotņu pēc žurnālistu jautājumiem ir noņēmuši.
Tehnoloģiju žurnāla WIRED izmeklēšana atklājusi vairāk nekā 400 savstarpēji saistītu domēnu un mobilo lietotņu tīklu, kas Apple App Store un Google Play veikalos izliekas par parastiem pakalpojumiem, bet noteiktos apstākļos ļauj izveidot seksuāli eksplicītus mākslīgā intelekta ģenerētus attēlus un video no lietotāju augšupielādētām fotogrāfijām. Tīkla darbību pētnieki novērojuši aptuveni gadu, un tas rada jautājumus par to, cik efektīvi platformas īsteno savus aizliegumus attiecībā uz kaitīgiem dziļviltojumiem.
Kā tas darbojas
Viena no lietotnēm, Viefur, sevi piedāvā kā mājdzīvnieku portretu veidotāju: par digitālajām monētām (apmēram 4 dolāri par 130 monētām) dzīvnieku foto var pārvērst smieklīgos portretos. Taču pētnieki secinājuši, ka lietotnes katrā lejupielādē nosūta serverim informāciju, piemēram, par lietotāja izcelsmi un valodu, un serveris nosaka, vai rādīt nevainīgo vai eksplicīto versiju. Viens no izraisītājiem ir lejupielāde pēc klikšķa uz reklāmu Meta platformās Facebook un Instagram. Eksplicītajā saskarnē ir desmitiem pornogrāfisku šablonu, tostarp ainas ar vardarbību.
Par tīklu informāciju sniedz arī vietņu kods: tajā ir visu domēnu un lietotņu saraksts. Infoblox pētnieks Maēls Le Touzs identificēja gandrīz 500 saistītus domēnus.
Mērogs un atbildīgie
AI Forensics pētnieka Pola Bušo analīze liecina, ka lietotnes sāka parādīties 2025. gada beigās, bet pavasarī to skaits strauji pieauga. Septembrī Google Play bija pieejamas 27 šādas lietotnes, kas kopā lejupielādētas vairāk nekā 350 000 reižu. Lietotne DiffAI lejupielādēta vairāk nekā 100 000 reižu. Pēc pētnieku domām, tīkla aizmugurē ir ķīniešu izstrādātāji un Honkongā reģistrēta uzņēmība KeLing Technology Limited, kas uz jautājumiem neatbildēja, bet pēc sazināšanās šķietami izdzēsa publiskās saites uz dziļviltojumu rīkiem.
Apple noņēma 19 lietotnes un norādīja, ka izstrādātāji pēc apstiprināšanas esot nomainījuši satura avotu. Google lielāko daļu lietotņu noņēma pirms WIRED jautājumiem. Meta paziņoja, ka KeLing Technology Limited reklamēties aizliedza 2025. gadā, un pēc WIRED informācijas veikusi pasākumus pret tūkstošiem kontu un lapu, kā arī bloķējusi 209 lietotnes. Taču stāsta tapšanas beigās līdzīgas reklāmas un lietotnes joprojām tika publicētas.
