Vairāki AI pētnieki publiski brīdina par superinteliģences riskiem

Nevalstiskā organizācija Palisade Research, kas pēta mākslīgā intelekta spējas un motivāciju, ir publiskojusi divpadsmit interviju sēriju vietnē frominside.ai, kurā piedalās pašreizējie un bijušie mākslīgā intelekta pētnieki no tādiem uzņēmumiem kā OpenAI, Google un Anthropic.

Bijušais OpenAI un Google DeepMind darbinieks Geofrijs Ērvings (Geoffrey Irving) intervijā norādījis, ka cilvēces izzušanas iespējamību viņš vērtē aptuveni kā monētas mešanas rezultātu — ap 50 procentiem. Google DeepMind pētnieks Nīls Nanda (Neel Nanda) savukārt lēš, ka pastāv vismaz 10 procentu iespējamība, ka mākslīgais intelekts varētu izraisīt cilvēces izzušanu, sauc šo skaitli par "absurdi augstu".

Bažas par kontroles zaudēšanu

Vēl tālāk gājis bijušais OpenAI pētnieks Daniels Kokotailo (Daniel Kokotajlo), apgalvojot, ka superinteliģents mākslīgais intelekts būtu "praktiski dievišķi spēcīgs", vienlaikus atzīmējot, ka pašlaik nav zināms, kā šādas sistēmas kontrolēt, tāpēc, visticamāk, tās nevarēs kontrolēt neviens. Viņaprāt, šī situācija ir tikpat bīstama, cik izklausās, un tai nevajadzētu ļaut notikt.

Atšķirīgi viedokļi par risinājumiem

Lai gan vairāki intervētie pētnieki pauž līdzīgas bažas, kopīga vienota risinājuma problēmai video sērijā netiek piedāvāts. Vietne apkopo arī īsākus fragmentus par tēmām, piemēram, vai šīs bažas nav vienkārši mārketinga triks, un kāpēc pētnieki turpina strādāt pie tehnoloģijas, kuru paši uzskata par bīstamu.

Google pētniece Mērija Fuonga (Mary Phuong) atzinusi, ka viņas vārdiem vajadzētu izturēties ar zināmu skepsi, jo viņai par darbu maksā attiecīgā laboratorija. Savukārt Nanda skaidrojis, ka turpina strādāt šajā jomā, jo uzskata, ka viņa darbs tieši mazina eksistenciālos riskus — un uzņēmumi nepārtrauks šo sistēmu izstrādi vienkārši tāpēc, ka viņš pamestu darbu.