AI industrijā uzliesmo strīds par eksistenciālu risku cilvēcei
Pēc bijušā Anthropic pētnieka aiziešanas paziņojuma un uzņēmuma darbinieka izteikumiem par vairāk nekā 10% iespējamību, ka AI varētu iznīcināt cilvēci, TechCrunch žurnālisti diskutē, cik nopietni šie brīdinājumi ir uzskatāmi. Diskusija notiek laikā, kad Anthropic gatavojas biržas debijai.
AI nozarē pēdējās dienās izvērsusies asa diskusija par to, vai tehnoloģija apdraud cilvēces pastāvēšanu. Strīdu iedarbinājis pētnieks Džeikobs Koksons, kurš paziņojis par aiziešanu no Anthropic, pamatojot to ar bažām, ka lielākie AI uzņēmumi "riskē ar mūsu dzīvēm". Šo izteikumu tālāk izplatījis Anthropic drošības (alignment) jomas vadītājs, publiski norādot, ka viņš patiesi tic – AI varētu iznīcināt visus cilvēkus, un ka viņa personīgais vērtējums par šādu iespējamību pārsniedz 10% nākamajā desmitgadē.
Diskusija TechCrunch raidierādē
TechCrunch žurnālisti Kirstena Korosece, Šons O'Keins un Entonijs Ha raidierādes "Equity" epizodē analizēja šos brīdinājumus. Ha izteica skepsi par plašākiem AI "doomer" naratīviem, savukārt Korosece izvirzīja jautājumu, vai šādi paziņojumi varētu būt savdabīgs veids, kā uzsvērt uzņēmuma AI modeļu attīstības līmeni – it sevišķi laikā, kad šie uzņēmumi virzās uz biržas debiju.
Sakars ar gaidāmo IPO
O'Keins pievērsa uzmanību tam, ka Anthropic tuvākajās nedēļās vai mēnešos plāno iesniegt S-1 dokumentāciju IPO procesam, un pārdomāja, kā šādi drošības riska paziņojumi varētu atspoguļoties šajā juridiskajā dokumentā. Korosece atzīmēja, ka parastā investīciju vidē šāda valoda varētu kaitēt uzņēmuma vērtējumam, tomēr pašreizējos apstākļos tas varētu pat pozitīvi ietekmēt vērtējumu, jo spēks un pat riska elementi tiek saistīti ar augstu tehnoloģisko kapacitāti.
Saruna notikusi pirms Anthropic izpilddirektors Dario Amodejs publiskojis savu plānu par piesardzīgāku AI attīstību. Ha uzsvēra, ka pārmērīga fokusēšanās uz eksistenciāliem draudiem var novērst uzmanību no tuvākiem AI radītiem riskiem, piemēram, ietekmes uz darba tirgu un vidi.
