Prasībā pret xAI un Grok: patēvs izmantoja mākslīgo intelektu, lai radītu 7000 bērnu pornogrāfijas attēlu
Paplašinātā kolektīvā prasībā pret xAI un X platformu atklāts, ka kāds vīrietis ar Grok palīdzību izveidoja 7000 seksuāli eksplicītu attēlu no savas 11 gadus vecas pameitas fotogrāfijas, pēc aresta izdarot pašnāvību.
Jaunākā tiesas prāva pret Īlona Maska uzņēmumu xAI un platformu X atklāj šokējošus faktus par mākslīgā intelekta radītu bērnu seksuālās izmantošanas materiālu (CSAM) izplatību. Saskaņā ar otrdien iesniegto grozīto sūdzību kāda meitene, kas prasībā identificēta kā Jane Doe 4, cietusi, kad viņas patēvs izmantoja Grok – xAI izstrādāto AI tērzēšanas botu –, lai no vienas fotogrāfijas, uzņemtas, kad meitenei bija 11 gadu, izveidotu aptuveni 7000 seksuāli eksplicītu attēlu un video. Attēlos bija attēlota incesta un izvarošanas ainas, un sistēma nereaģēja, līdz vīrietis ievadīja komandu “grupveida izvarošana”. Tikai tad xAI nosūtīja ziņojumu Nacionālajam pazudušo un izmantoto bērnu centram (NCMEC). Tomēr, neskatoties uz obligātajām ziņošanas prasībām, xAI vairākas nedēļas atteicās sniegt izmeklētājiem lietotāja IP adresi, apgrūtinot viņa identificēšanu. Kad policija beidzot ieguva orderi un arestēja vīrieti, viņa ierīcēs tika atrasti tūkstošiem AI radītu attēlu. Pēc apcietinājuma atstāšanas pret drošības naudu vīrietis izdarīja pašnāvību, atstājot meiteni dziļā krīzē ar trauksmi un depresiju. Prasībā teikts, ka xAI apzināti kavējusi izmeklēšanu, lai aizsargātu peļņu. NCMEC dati liecina, ka 90% xAI ziņojumu nebija izmantojami tiesībaizsardzībā, jo trūka lietotāja informācijas. Prasībā kā atbildētājs pievienots arī Stability AI, kura atvērtie modeļi tiek izmantoti trešo pušu “kailināšanas” lietotnēs, kas ļauj radīt CSAM. Pētnieki lēš, ka Stable Diffusion ģimene veido 42,7% no šādiem attēliem tiešsaistē. Advokāti norāda, ka tūkstošiem cietušo varētu pievienoties prasībai, un vienīgais risinājums ir modelī bloķēt visu kailfoto un seksuālo saturu.
