No "Anthropic" aizgājis pētnieks brīdina par mākslīgā intelekta briesmām
Bijušais "Anthropic" darbinieks Džeikobs Koksons publiski brīdinājis, ka mākslīgais intelekts drīz iegūs pārcilvēciskas spējas un reālu varu, taču nozares eksperti šādus apgalvojumus vērtē pretrunīgi.
Šonedēļ no vadošā mākslīgā intelekta (MI) uzņēmuma "Anthropic" aizgājis pētnieks Džeikobs Koksons, kurš izteicis asus brīdinājumus par tehnoloģijas draudiem. Pēc viņa vārdiem, MI drīz kļūs par pārcilvēcisku spēju sistēmu, kas spēs uzlauzt praktiski jebko, strauji mainīt veselas nozares un iegūt reālu varu un resursus.
Koksons nav pirmais bijušais nozares darbinieks, kurš izsaka šādus brīdinājumus. Jau 2023. gadā līdzīgas bažas pauda tā dēvētais MI "krusttēvs" Džefrijs Hintons, kurš tolaik pameta "Google", lai varētu brīvi runāt par straujas MI attīstības riskiem. No saviem izteikumiem viņš līdz šim nav atkāpies.
Koksona bažām pievienojies vēl viens bijušais "Anthropic" darbinieks Evans Hubingers, apgalvojot, ka personīgi vērtē varbūtību, ka MI nākamās desmitgades laikā varētu apdraudēt cilvēci, par lielāku nekā 10%.
Ne visi piekrīt apokaliptiskajam scenārijam
Raidorganizācijas BBC intervijā Hintons atzinis, ka precīzi paredzēt šādus riskus ir grūti, jo cilvēce vēl nekad nav radījusi sistēmu, kas varētu kļūt gudrāka par pašu cilvēku. Viņaprāt, apgalvot, ka apdraudējuma varbūtība ir tikai 1%, būtu neatbildīgi, taču arī precīzu skaitli neviens nevar aprēķināt.
Ne visi speciālisti piekrīt šādam vērtējumam. Latvijas Universitātes Matemātikas un informātikas institūta direktors un "AiLab" vadošais pētnieks Roberts Darģis apgalvojumus par 10% varbūtību, ka MI desmit gadu laikā var apdraudēt cilvēci, nosaucis par pārspīlētu "klikbeitu", salīdzinot tos ar varbūtību sastapt uz ielas pūķi. Viņaprāt, šādas bažas kopumā ir pārspīlētas.
