Meta jaunā AI sistēma nespēja apturēt simtiem reklāmu ar bērnu izmantošanas materiāliem
Pētnieki atklājuši vairāk nekā 250 jaunu reklāmu ar bērnu seksuālas izmantošanas saturu Meta platformās kopš augusta sākuma, dažās izmantojot reālu bērnu, tostarp Eiropas karaliskās ģimenes locekļa, attēlus.
Nevalstiskās organizācijas Tech Transparency Project (TTP) pētnieki atklājuši, ka Meta piederošajās platformās — Facebook, Instagram, Threads un Messenger — kopš augusta sākuma parādījušies vairāk nekā 250 jaunu reklāmu ar bērnu seksuālas izmantošanas materiāliem. Tas notiek neilgi pēc tam, kad izdevums Wired ziņoja par aptuveni 50 līdzīgām reklāmām, kuras Meta dzēsa un apgalvoja, ka ieviesusi jaunus AI rīkus šāda satura atklāšanai.
Reālu bērnu attēli
Atšķirībā no iepriekš atklātajām reklāmām, jaunajā partijā pētnieki identificējuši attēlus, kas pieder reāliem bērniem — tostarp Eiropas karaliskās ģimenes nepilngadīgajam loceklim, kura oficiāli publicēto fotogrāfiju pārveidojuši eksplicītā video. Identificēti arī vairāki gadījumi ASV, tostarp divi pusaudži ar sociālo mediju kontiem un fotomodele, kas krājumu fotoattēlu vietnēs bijusi apzīmēta kā pirmspusaudzes vecuma.
Kopumā kopš pagājušā gada beigām Meta platformās publicētas vairāk nekā 350 šādas reklāmas, no kurām lielākā daļa novirza lietotājus uz t.s. "nudifikācijas" lietotnēm, kuras bieži saistītas ar Ķīnas izstrādātājiem. Reklāmās parasti izmantots nevainīgs pusaudzes attēls ar tekstu, kas mudina lejupielādēt sejas nomaiņas lietotni. Reklāmas kopumā skatījušies desmitiem tūkstošu kontu vairākās valstīs, tostarp ES, Lielbritānijā, ASV, Austrālijā un Indijā.
Meta un iestāžu reakcija
Meta pārstāve norādīja, ka uzņēmums neatbalsta bērnu izmantošanu ne reālā, ne AI ģenerētā veidā, un daļa no atklātajām reklāmām jau dzēstas. Uzņēmums saņēmis no šīm reklāmām mazāk nekā 5000 dolāru ieņēmumu. Apple un Google pārstāvji apstiprināja, ka lielākā daļa saistīto lietotņu jau izņemtas no veikaliem.
Ziņas par atklājumiem izraisījušas politiķu un regulatoru reakciju — ASV senators Marks Vorners aicinājis Meta izbeigt šādas reklāmas, bet izmeklēšanu sākušas arī Mičiganas un Floridas ģenerālprokuratūras, kā arī Austrālijas interneta regulators.
