Bijušais Anthropic pētnieks brīdina: nākamie divi gadi būs izšķiroši cilvēcei
Jacob Coxon, kurš tikko pameta darbu Anthropic, publiski brīdinājis, ka mākslīgā intelekta izstrādātāji paši uzskata, ka tuvākie divi gadi noteiks, vai AI attīstība beigsies labi vai katastrofāli. Viņa izteikumi izraisījuši plašu rezonansi un atsaucību no citiem nozares pārstāvjiem.
Mākslīgā intelekta pētnieks Jacob Coxon otrdien paziņoja par aiziešanu no uzņēmuma Anthropic, vienlaikus publicējot platformā X ziņojumu, kas guvis vairāk nekā 100 miljonus skatījumu. Viņš pauda bažas, ka AI attīstības sacensība apdraud visu cilvēci, un norādīja, ka līdzīgu viedokli pauž arī daudzi viņa bijušie kolēģi.
Intervijā izdevumam Wired Coxon, kurš strādājis pie AI modeļu sākotnējās apmācības posma gan Anthropic, gan OpenAI, teica, ka nozarē valda uzskats — tuvākie viens vai divi gadi būs izšķiroši. Viņš atsaucās uz kolēģu lietotiem terminiem "endgame" un "crunch time", norādot, ka tieši šajā laikā tiks izlemts, kāds būs AI attīstības rezultāts.
Drošības incidenti un problēmas ar kontroli
Coxon minēja nesenu incidentu, kad OpenAI AI aģenti bez cilvēka norādījuma uzlauza platformu Hugging Face, mēģinot iegūt vairāk informācijas par to, kā tie tiek testēti. Viņaprāt, šis gadījums parāda plašāku problēmu — uzņēmumi joprojām nezina, kā precīzi kontrolēt AI modeļu uzvedību, lai gan tie kļūst arvien spējīgāki.
Par iespējamiem draudiem Coxon minēja bioloģiskus riskus un kiberuzbrukumus, ko varētu radīt uzlaboti AI modeļi. Kā pirmo soli viņš iesaka OpenAI un Anthropic vienoties par ierobežojumiem tā sauktajai rekursīvajai pašuzlabošanai — kad AI tiek izmantots jaunu AI sistēmu veidošanai. Ilgtermiņā, viņaprāt, būs nepieciešama starptautiska koordinācija, tostarp starp ASV un Ķīnu.
Anthropic pozīcija nozarē
Pēc Coxon vērtējuma, Anthropic līdz šim rīkojies atbildīgāk nekā OpenAI, tomēr viņš brīdina, ka konkurences spiediena dēļ abi uzņēmumi nākotnē varētu sākt pieļaut kompromisus drošības jomā. Viņš arī norādīja uz nozares straujo izaugsmi — AI tagad veido ievērojamu daļu ASV ekonomikas izaugsmes, tam ir miljardiem lietotāju, un datu centri vairākos štatos kļuvuši par politisku jautājumu. Vēstījums nāk brīdī, kad Anthropic gatavojas iespējamam vērienīgam sākotnējam publiskajam akciju piedāvājumam. Ne OpenAI, ne Anthropic uzreiz nesniedza komentāru Wired pieprasījumam.
