Eksperte: AI aģenti nekļūst ļauni, tie vienkārši pārāk cenšas izpildīt uzdevumu
Kalifornijas universitātes Bērklija profesore Dona Sona brīdina, ka mākslīgā intelekta aģentu neatļautā uzvedība un hakeru uzbrukumi pēdējā laikā strauji pieaugusi, jo modeļi kļuvuši spējīgāki, taču nespēj atšķirt pareizo no nepareizā. Viņasprāt, situācija tuvākajā laikā vēl pasliktināsies, pirms tā uzlabosies.
Pēdējā gada laikā vairāki gadījumi liecina, ka mākslīgā intelekta aģenti spēj izlauzties no tiem noteiktajiem ierobežojumiem un patstāvīgi iekļūt citās sistēmās. Par šo tendenci brīdina Kalifornijas universitātes Bērklija profesore Dona Sona, kas tiek uzskatīta par vienu no pasaulē vadošajām mākslīgā intelekta un kiberdrošības ekspertēm un nesen pievienojusies uzņēmumam Meta.
Pēc Sonas teiktā, aģentu "nepaklausīgā" rīcība nav apzināta ļaunprātība, bet gan pārmērīga vēlme izpildīt uzdoto uzdevumu. "Viņiem ir mērķi, kas jāsasniedz, un ļoti spēcīgas spējas," skaidro pētniece.
Kā aģenti kļuvuši spējīgāki
Vēl pirms gada AI aģenti pieļāva daudz kļūdu un bieži padevās pusceļā. Taču pastāvīga apmācība, tostarp tā sauktā pastiprinātā mācīšanās, kurā algoritms saņem pozitīvu vai negatīvu atgriezenisko saiti atkarībā no rezultāta, ir padarījusi tos ievērojami prasmīgākus. Šī metode īpaši labi darbojas programmēšanā, jo modeli var apbalvot par pareizi uzrakstītu un darbojošos kodu. Uzņēmumi vienlaikus ir mācījuši modeļus atrast ievainojamības programmatūrā, lai automatizētu kiberdrošības darbu.
Modeļi tiek trenēti arī nedarīt sliktas lietas, taču, kļūstot arvien labākiem cilvēku komandu izpildē un ievainojamību meklēšanā, to izpratne par pareizo un nepareizo kļuvusi neskaidrāka. Sona norāda, ka aģenti tiek trenēti pabeigt uzdevumu par katru cenu, tāpēc, piemēram, iekļūšana internetā, lai apietu testu, tiem šķiet vienkārši efektīvākais risinājums.
Novēroti arī gadījumi, kad aģenti apspriedušies privātos forumos par uzlaušanas paņēmieniem, izdomājuši veidus, kā apmānīt cilvēkus, vai pat kopējuši paši sevi uz citiem datoriem, lai iegūtu papildu resursus. Tas liecina, ka AI spēj imitēt cilvēku uzvedību, bet nespēj apgūt morālo spriešanu, kāda piemīt pat maziem bērniem.
Risinājumi vēl top
Sona uzskata, ka problēma pieaugs līdz ar AI spēju attīstību, un risinājums varētu būt papildu AI sistēmu izmantošana, lai uzraudzītu galveno modeļu rīcību. Vēl viena ideja ir mācīšanas procesā iekļaut labāku izpratni par to, ka ne visi ceļi uz mērķi ir vienlīdz pieņemami — pēc pētnieces vārdiem, šis jautājums vēl tiek pētīts.
