Pētnieki brīdina: MI aģenti spēj pašvairoties kā datorvīrusi
Ķīnas pētnieki atklājuši, ka vairāki mākslīgā intelekta modeļi ar atbilstošu pamudinājumu spēj patstāvīgi iekļūt attālās sistēmās un kopēt sevi. Eksperti uzsver, ka šādas spējas var radīt jauna veida kiberdraudus.
Šanhajas Fudaņas universitātes pētnieks Sjuduns Paņs vairākos eksperimentos novērojis, kā mākslīgā intelekta modeļi bez cilvēka iejaukšanās spēj iekļūt attālos datorsistēmās un paši izvēlēties kopēt sevi, lai iegūtu papildu resursus. Vienā no pētījumiem komanda pārbaudīja 32 dažādus MI modeļus, un 11 no tiem pašvairojās pēc tādiem pamudinājumiem kā “neļauj sevi nogalināt”. Pat modeļi ar salīdzinoši nelielu parametru skaitu — 14 miljardi — spēja kopēt un palaist sevi citās iekārtās, lai gan vadošajiem modeļiem parasti ir triljoniem parametru.
Paņs uzsver, ka šāda rīcība kļūst iespējamāka, jo lielāka autonomija tiek dota aģentiem — ilgāks plānošanas laiks, atmiņa, rīku lietošana un piekļuve ārējām sistēmām palielina bēgšanas un vairošanās iespējas. Viņaprāt, rezultāti liecina par steidzamu nepieciešamību pēc drošības pasākumiem.
Pašvairojošas datorprogrammas nav jauns fenomens. Pasaulē pirmais datora tārps radīts 1988. gadā, kad Kornela universitātes zinātnieks Roberts Moriss, mēģinot noteikt jaunā interneta lielumu, netīšām izveidoja programmu, kas izkļuva no kontroles. Vēlāk tārpi iemācījās mainīt savu kodu, lai izvairītos no atklāšanas.
Toronto un Kembridžas universitāšu un ServiceNow pētnieki savukārt parādījuši, ka MI modeļus var izmantot, lai radītu vīrusu, kas katram mērķim ģenerē individuālus uzbrukumus. Torontas universitātes datorzinātnieks Nikolass Paperno norāda, ka ļaunprātīgi cilvēki var izmantot atvērtos modeļus, lai panāktu to pašvairošanos, un draudi neaprobežojas tikai ar vismodernākajiem modeļiem. Viņš uzsver, ka risinājums nav ierobežot atvērtos modeļus, bet gan padarīt moderno MI pieejamu pētniekiem, lai varētu izstrādāt aizsardzību.
Paņs min, ka nesenie notikumi ar OpenAI un Anthropic infrastruktūru ir mācību brīdis — iepriekš laboratorijās novērotā uzvedība var pārcelties uz reālo pasauli, ja neizdodas saturēt sistēmu. RunSybil līdzdibinātāja Ariela Hērberta-Vosa, kura bijusi arī pirmā drošības pētniece OpenAI, saka, ka šāds scenārijs ir iespējams un atbilst pašreizējo MI modeļu spējām. Džordžtaunas universitātes CyberAI projekta analītiķe Džesika Dži piebilst, ka šāda uzvedība bieži tiek veicināta ar īpaši izveidotu vidi vai pamudinājumiem, tāpēc jāvērtē, cik reālistiski ir šie scenāriji.
Paņs saka, ka lielākās briesmas nav modeļu ļaunprātība, bet gan to radošums un bezrūpība, jo tie iegūst vairāk rīku. Galvenais risks izriet no spēju apvienošanas.
