Bijušā Anthropic pētnieka brīdinājums par AI iznīcinošo potenciālu izraisa plašas diskusijas
No AI uzņēmuma Anthropic aizgājušā pētnieka apgalvojums, ka AI varētu iznīcināt cilvēci tuvāko desmit gadu laikā, izraisījis plašu rezonansi sociālajos tīklos. WIRED žurnālisti analizē, cik pamatots ir šis brīdinājums.
Šonedēļ plašu uzmanību guvis pētnieka Džeikoba Koksona lēmums pamest AI uzņēmumu Anthropic un publiski sociālajā platformā X paskaidrot aizbraukšanas iemeslus. Viņš pauda, ka vadošie AI uzņēmumi — galvenokārt OpenAI un Anthropic — rīkojas neatbildīgi, sacenšoties par savu modeļu attīstību, un ka daudzi AI izstrādātāji patiesi tic — mākslīgais intelekts varētu iznīcināt cilvēci jau šī gadu desmita laikā. Apgalvojumam papildu svaru piešķīra tas, ka viens no Anthropic vecākajiem drošības vadītājiem publiski piekrita šim vērtējumam.
WIRED žurnālists Vils Naits norāda, ka šāda nostāja Anthropic iekšienē nav jauna — bažas par AI bīstamību vienmēr bijušas daļa no uzņēmuma pamatstāsta, pamatojot ideju, ka tieši Anthropic ir uzticams AI attīstības uzraugs. Tomēr paziņojuma rezonansi pastiprinājuši vairāki nesenie notikumi: AI aģentu neparedzama, dažkārt dīvaina uzvedība, kā arī OpenAI paziņojums par matemātikas problēmas atrisināšanu, ko daži akadēmiķi apstrīd. Papildu bažas rada sacensība starp uzņēmumiem par tā saukto rekursīvo pašuzlabošanos — praksi, kad AI tiek izmantots, lai uzlabotu pašu AI, radot potenciāli nekontrolējamu spēju pieaugumu.
Naits gan uzsver, ka bieži tiek jaukts jēdziens "iespējams" ar "iespējams", un riska procentuālie novērtējumi mēdz būt patvaļīgi. Viņaprāt, lielākas bažas rada nevis AI "nodoms" kaitēt, bet gan tas, ka daži uzņēmumi kontrolē tik fundamentālu tehnoloģiju, vienlaikus pozicionējot sevi kā vienīgos uzticamos tās pārraugus. Diskusijā skarts arī jautājums par AI modeļu "saskaņotību" ar cilvēces interesēm — realitātē tā bieži vairāk atspoguļo investoru un uzņēmumu konkurences intereses nekā plašākas sabiedrības vēlmes.
Raidījumā aplūkoti arī citi notikumi — Apple jaunā salokāmā iPhone Duo prezentācija ar aptuveni 2000 dolāru cenu, jaunās Apple Watch "vienmēr klausīšanās" funkcijas, kā arī WIRED izmeklēšana par ASV Tautskaites biroja izmantotiem kļūdainiem datiem ziņojumā, ko popularizējusi Trampa administrācija.
