Mākslīgais intelekts radikāli maina dezinformācijas izplatīšanas metodes
NATO Stratēģiskās komunikācijas izcilības centra pētījums atklāj, ka mākslīgais intelekts ļauj izveidot gandrīz neatpazīstamus viltus kontus un automatizētas sistēmas, kas spēj simulēt cilvēku uzvedību, tādējādi būtiski pastiprinot dezinformācijas draudus.
Nesen publicētajā NATO Stratēģiskās komunikācijas izcilības centra (NATO STRATCOM) pētījumā secināts, ka mākslīgā intelekta attīstība ir radikāli mainījusi dezinformācijas izplatīšanas ainavu. Tradicionālie robotkonti sociālajos tīklos, kas bija viegli atpazīstami pēc vienveidīgas aktivitātes un atkārtojoša satura, pamazām kļūst par pagātni. To vietā nāk daudz sarežģītākas sistēmas, kas spēj atdarināt cilvēku uzvedību, iesaistīties diskusijās un radīt pārliecinošas digitālās personības.
Pētnieki norāda, ka šādas sistēmas vairs nav tikai teorētisks drauds. Eksperimenti, izmantojot komerciāli pieejamus lielos valodu modeļus, apliecina, ka nepieciešamās tehnoloģijas ir plaši pieejamas un salīdzinoši viegli izmantojamas. Testējot astoņus populārus mākslīgā intelekta modeļus, tika atklāts, ka neviens no tiem nav pilnībā aizsargāts pret manipulācijām. Daži modeļi izrādījās noturīgāki, taču arī tajos konstatētas ievainojamības. Īpaši satraucoši ir secinājumi par atvērtā koda modeļiem, kuriem, noņemot drošības ierobežojumus, tie kļūst ļoti efektīvi dezinformācijas radīšanā.
Jaunās sistēmas spēj izveidot detalizētus personāžus ar savu biogrāfiju, interesēm un emocijām. Tie var ilgstoši veidot reputāciju, pirms tiek aktivizēti konkrētu kampaņu veikšanai. Modernas dezinformācijas sistēmas sastāv no vairākiem specializētiem aģentiem: viens analizē sociālos tīklus, otrs rada digitālās identitātes, trešais ģenerē saturu, ceturtais koordinē publicēšanu, bet piektais nepārtraukti novērtē rezultātus un pielāgo taktiku. Īpaši efektīvs ir “iesaistes kopu” princips, kad vairāki mākslīgā intelekta radīti personāži vienlaikus piedalās diskusijā, radot ilūziju par daudzveidīgu sabiedrisku sarunu.
Lai demonstrētu šo sistēmu potenciālu, pētnieki modelēja veselības dezinformācijas kampaņu. Mākslīgais intelekts identificēja kopienu ar paaugstinātu trauksmi, izveidoja vairākus personāžus un sāka izplatīt apšaubāmu informāciju par sirds slimību ārstēšanu. Nedēļas laikā kampaņa sasniedza desmitiem tūkstošu lietotāju, un simtiem reālu cilvēku sāka atkārtot mākslīgi radītos argumentus. Šis brīdis, kad dezinformāciju sāk izplatīt paši lietotāji, tiek uzskatīts par vienu no bīstamākajiem posmiem.
NATO STRATCOM eksperti secina, ka esošie regulējuma mehānismi un drošības prasības nespēj pilnībā novērst šādu sistēmu ļaunprātīgu izmantošanu. Tādēļ nepieciešama ciešāka sadarbība starp valdībām, tehnoloģiju uzņēmumiem, sociālo tīklu platformām un pētniekiem. Vienlaikus pieaug sabiedrības medijpratības nozīme – spēja kritiski izvērtēt internetā pieejamo informāciju kļūst arvien svarīgāka, lai nākotnē dezinformācijas kampaņas nepaliktu neredzamas.
