AI nozares līderu solījums palēnināt attīstību raisa šaubas par patiesajiem motīviem
OpenAI, Anthropic, Google DeepMind un SpaceX vadītāji nedēļas nogalē vienojušies par AI attīstības tempa palēnināšanu, taču eksperti šaubās, vai tas ir patiess drošības solis vai mēģinājums izvairīties no reālas regulācijas. Kritiķi brīdina, ka priekšlikums varētu vairāk kaitēt konkurentiem nekā reāli palēnināt bīstamu tehnoloģiju attīstību.
Nedēļas nogalē vairāku vadošo mākslīgā intelekta uzņēmumu vadītāji — OpenAI vadītājs Sems Altmens, Anthropic vadītājs Dario Amodejs, Google DeepMind līdzdibinātājs Demiss Hasabiss un SpaceX vadītājs Elons Masks — neformāli vienojās par AI attīstības tempa "noturēšanu" saprātīgās robežās. Priekšlikums paredz neatkarīgu auditoru iesaisti laboratorijās, iekšzemes uzraudzību un mēģinājumu panākt globālu vienošanos par tempa ierobežošanu.
Skeptiķi tomēr norāda, ka aiz skaistajiem vārdiem varētu slēpties vēlme apturēt konkurentus un vājināt atvērtā koda kustību, izvairoties no reālām juridiskām prasībām — daži šo iniciatīvu dēvē par "karteli". Nozares pārstāvji atzīst, ka patiesība ir sarežģītāka: priekšlikumā ietvertās idejas jau ilgstoši aizstāvējuši AI drošības eksperti, taču bažas rada tas, ka par šo jautājumu joprojām lemj paši nozares vadītāji, nevis neatkarīgi speciālisti.
Spriedzi pastiprinājusi Anthropic pētnieka Džeikoba Koksona demisijas vēstule, kurā viņš brīdinājis, ka AI attīstītāji paši apzinās iespējamos katastrofālos riskus, taču turpina strauji virzīties uz pašpilnveidojošos superintelektu. Vēstule internetā skatīta vairāk nekā 170 miljonus reižu.
Daudzi eksperti norāda, ka bažas par tā saukto rekursīvo pašpilnveidošanos (RSI) — hipotētisku brīdi, kad AI modeļi varētu paši sevi trenēt un uzlabot bez cilvēka iesaistes — ir kļuvušas par galveno šī brīža diskusijas dzinuli. Anthropic prognozē, ka šis brīdis varētu iestāties jau 2027. gadā.
Lielākais šķērslis reālam palēninājumam ir bažas par konkurenci ar Ķīnu — daudzi uzskata, ka ASV nedrīkst atpalikt neatkarīgi no riskiem. Vienlaikus eksperti brīdina, ka bez valdības regulācijas brīvprātīgas apņemšanās var izrādīties tukšs solījums bez reāla seguma.
