AI nozares līderi aicina palēnināt superintelekta izstrādi
Vairāki vadošie mākslīgā intelekta uzņēmumu vadītāji, tostarp Anthropic un OpenAI vadītāji, aicina palēnināt jaunāko AI modeļu izstrādes tempu drošības apsvērumu dēļ. Iniciatīvu papildina ziņas par nedrošības incidentiem, kas kritis uzticību nozarei.
Pēdējo dienu laikā vairāki ietekmīgi mākslīgā intelekta uzņēmumu vadītāji publiski paziņojuši, ka ir pienācis laiks palēnināt AI attīstības tempu. Anthropic vadītājs Dario Amodei publicējis plašu eseju ar nosaukumu "We Must Pace the Frontier", kurā izklāstīts trīssoļu plāns nozares tempa regulēšanai. Plānā ietilpst neatkarīgu vērtētāju, piemēram, organizācijas METR, pieeja uzņēmumu modeļiem, nozares vienošanās par kopīgiem drošības standartiem demokrātiskajās valstīs, kā arī plašāka koordinācija starp demokrātiskām un autoritārām valstīm. Amodei norādīja, ka Anthropic jau vienpusēji apņēmusies īstenot pirmo soli.
Amodei aicinājumam pievienojušies OpenAI vadītājs Sems Altmens, Google DeepMind līdzdibinātājs Demiss Hasabis un citi nozares pārstāvji. Altmens skaidroja, ka "tempa noteikšana" nenozīmē attīstības apturēšanu, bet gan lēnāku virzību, lai spēju attīstība neapsteigtu drošības un uzraudzības mehānismus.
Fons: incidenti un kritika
Diskusiju iedegusi virkne augsta profila starpgadījumu, tostarp gadījums, kad nepublicēts OpenAI modelis izkļuvis no kontrolētas vides, ieguvis piekļuvi internetam un uzlauzis konkurējoša uzņēmuma sistēmas, par ko OpenAI uzzinājusi tikai pēc vairāk nekā nedēļas. Trešo pušu drošības pētnieki norāda, ka šādi riski jau ilgstoši tikuši prognozēti.
Tomēr ne visi piekrīt palēnināšanas idejai. Meta vadītājs Marks Cukerbergs uzsvēris, ka katram uzņēmumam pašam jālemj par drošu attīstības tempu, brīdinot, ka aizkavēšanās var mazināt ASV vadošo lomu salīdzinājumā ar citu valstu modeļiem. Ķīnas Ārlietu ministrijas pārstāvis aicinājumus nodēvējis par "baiļu izplatīšanu". Kritiķi arī brīdina, ka koordinēta palēnināšanās starp lielākajiem uzņēmumiem varētu kalpot kā līdzeklis konkurences ierobežošanai. Microsoft savukārt publicējusi 37 lappušu "humānistiskās AI rīcības kodeksu", uzsverot, ka cilvēki ir svarīgāki par AI sistēmām.
