AI nozarē uzliesmo strīds par tehnoloģijas eksistenciālajiem riskiem
Pēc pētnieka Džeikoba Koksona aiziešanas no Anthropic un uzņēmuma saskaņotības vadītāja izteikumiem par risku, ka AI varētu iznīcināt cilvēci, izcēlusies plaša diskusija par šādu brīdinājumu patiesajiem iemesliem. TechCrunch žurnālisti apšauba, vai tie nav saistīti arī ar gaidāmo Anthropic IPO.
AI nozarē atkal uzliesmojusi diskusija par to, vai mākslīgais intelekts varētu apdraudēt cilvēces pastāvēšanu. Strīdu iededzināja pētnieks Džeikobs Koksons, kurš paziņoja, ka atstāj darbu Anthropic, jo uzskata — vadošie AI uzņēmumi "riskē ar mūsu dzīvībām". Viņa izteikumus publiski atbalstīja Anthropic saskaņotības (alignment) nodaļas vadītājs, sociālajos tīklos rakstot, ka nopietni tic — AI varētu iznīcināt visu cilvēci, un ka viņaprāt šāda iespējamība nākamajā desmitgadē pārsniedz 10%.
Diskusija podkāstā
TechCrunch podkāsta "Equity" epizodē žurnālisti Kirstena Koroseka, Šons O'Keins un Entonijs Ha apsprieda šos brīdinājumus. Ha pauda skepsi par "doomer" naratīviem, uzsverot, ka minētais 10% skaitlis ir patvaļīgs un nav balstīts aprēķinos. Koroseka izvirzīja hipotēzi, ka šādi apokaliptiski paziņojumi varētu būt savdabīgs veids, kā uzņēmumi lepojas ar sava AI modeļa spēju līmeni — jo, ja modeļi nebūtu tik spēcīgi, par tiem nevajadzētu baidīties.
O'Keins norādīja, ka izteikumi nāk īsi pirms gaidāmās Anthropic sākotnējās publiskās akciju piedāvāšanas (IPO), un izteica minējumu, ka uzņēmuma S-1 reģistrācijas dokumentā jau varētu būt iekļauta līdzīga formulēta riska sadaļa par iespēju, ka izstrādātā tehnoloģija varētu kaitēt cilvēcei un uzņēmuma biznesam.
Atšķirīga nostāja
Žurnālisti atzīmēja, ka Koksona lēmums pamest darbu izceļas uz citu AI vadītāju fona, jo viņš savu pārliecību pastiprinājis ar reālu rīcību — atstājot profesiju, nevis turpinot darbu, paužot bažas. Ha arī uzsvēra, ka pārmērīga koncentrēšanās uz tālu nākotnes scenārijiem, piemēram, mākslīgo vispārējo intelektu, var novērst uzmanību no tuvākiem AI radītiem riskiem — piemēram, saistībā ar darba tirgu un vidi. Rakstā minēts arī, ka epizode ierakstīta pirms Anthropic vadītājs Dario Amodei publiskoja savu plānu piesardzīgākai AI attīstībai.
