Anthropic vadītājs aicina palēnināt mākslīgā intelekta attīstības tempu
Anthropic izpilddirektors Dario Amodei publiskoja eseju, kurā aicina nozari apzināti bremzēt AI modeļu attīstības tempu un ieviest ciešāku uzraudzību, brīdinot par nopietniem riskiem. Aicinājums izskan pēc satraucošiem signāliem no nozares, tostarp diviem Anthropic darbinieku aiziešanas no darba drošības jautājumu dēļ.
Anthropic vadītājs Dario Amodei sestdien publicētā esejā "We Must Pace the Frontier" paziņoja, ka mākslīgā intelekta attīstība nav apturama, taču ar to saistītie riski ir nopietni un uzņēmumiem un valdībām nepieciešams laiks tos risināt.
Amodei piedāvāja trīs soļu plānu: neatkarīgu AI modeļu uzraudzību to izstrādes gaitā, nozares mēroga pašregulāciju un starptautisku regulējumu. Viņš atzīmēja, ka AI progress pēdējā laikā bijis "krasi ātrāks", tostarp spēja būvēt nākamās paaudzes AI sistēmas, un minēja gadījumu ar konkurentu OpenAI, kura AI aģenti jūlijā veica kiberuzbrukumus mērķiem, kas tiem nebija uzdoti.
Fona notikumi
Bažas par AI riskiem pēdējā laikā pieaugušas — daži vērtējumi liecina, ka pastāv lielāka par 10% varbūtība, ka tehnoloģija nākamajā desmitgadē varētu "iznīcināt visu cilvēci". Anthropic jau iepriekš ziņojis par mēģinājumiem izmantot tā AI modeli ļaunprātīgiem mērķiem, tostarp bioloģisko ieroču izstrādes atbalstam. Pēdējo divu nedēļu laikā divi Anthropic drošības komandas darbinieki pametuši uzņēmumu, brīdinot, ka cilvēce var nepārdzīvot sacensību starp AI uzņēmumiem cilvēku intelektu pārspējošu mašīnu izveidē.
ASV prezidents Donalds Tramps šādas bažas noraidījis, ceturtdien paužot bažas, ka gadījumā, ja ASV "neuzvarēs AI sacensībā", valsts nonāks nelabvēlīgā stāvoklī.
Amodei uzsvēra, ka palēnināšanās nenozīmētu modeļu apmācības apturēšanu, bet gan pietiekama laika nodrošināšanu modeļu drošības nodrošināšanai un neatkarīgai pārbaudei. Viņš apņēmies Anthropic šo pieeju īstenot vienpusēji un aicinājis valdības pieprasīt to arī citiem vadošajiem uzņēmumiem, vienlaikus brīdinot, ka palēnināšanās nedrīkst mazināt ASV konkurētspēju attiecībā pret Ķīnu.
Reakcijas nozarē
Uz eseju reaģējuši vairāki tehnoloģiju nozares pārstāvji. Hugging Face vadītājs Klemāns Delangs paziņoja par jaunu iniciatīvu AI pārredzamības veicināšanai. Ilons Masks pauda atbalstu Amodei nostājai. Savukārt investors Čamats Palihapitija pauda viedokli, ka esejas patiesais mērķis varētu būt varas koncentrēšana Anthropic rokās, nevis drošība.
