Ne visi mākslīgā intelekta nozares darbinieki tic apokalipses scenārijiem
BBC aptaujātie darbinieki no OpenAI, Meta un DeepMind ar ironiju uzņēmuši nesenos brīdinājumus, ka nekontrolēta AI attīstība varētu novest pie cilvēces iznīcības, taču vienlaikus atzīst reālus, tuvāko gadu riskus.
BBC sarunās ar vairākiem mākslīgā intelekta (AI) nozares darbiniekiem noskaidrojis, ka ne visi dala bažas par tehnoloģiju kā cilvēces eksistenciālu apdraudējumu. Vairāki bijušie un pašreizējie OpenAI, Meta un DeepMind darbinieki uz nesenajiem skaļajiem brīdinājumiem reaģējuši ar ironiju, tostarp ar smieklīgumu.
Diskusiju izraisīja bijušā Anthropic darbinieka Jēkaba Koksona (Jacob Coxon) pagājušajā nedēļā izteiktie apgalvojumi, ka AI agentu grupa, kas balstīta uz pagaidām neeksistējošiem modeļiem, varētu izveidot un izmantot bioloģisko ieroci. Koksons gan nesniedza sīkākus paskaidrojumus, kā tas notiktu. Viņa brīdinājumus atbalstījuši arī citi nozares pārstāvji, tostarp daži Anthropic, OpenAI, DeepMind darbinieki un Elona Maska AI uzņēmuma xAI pārstāvji.
Bijušais OpenAI darbinieks, kurš tagad strādā citā AI uzņēmumā, BBC teica, ka viņa pirmā reakcija bijusi pārsteigums, jo šādiem apgalvojumiem trūkstot konkrētības. Rišubs Džeins (Rishub Jain), kurš pēc septiņiem gadiem DeepMind šovasar dibinājis AI drošības pētniecības firmu Sampura Research, norādīja, ka noskaņojums nozarē esot bijis nedaudz jokains, jo šīs bažas nozarē tiek apspriestas jau gadiem ilgi. Meta datu zinātnieks Kolins Freizers (Colin Fraser) sociālajos tīklos rakstīja, ka nav reālu pierādījumu, ka AI modeļi neizbēgami tiektos pēc mērķiem, kas noved pie cilvēku nāves.
Tomēr darbinieki atzīst arī reālus, tuvākā laika riskus — piemēram, iespēju, ka lietotāji vai hakeri var apiet AI drošības mehānismus, kā arī ētiskās bažas par AI plašāku izmantošanu militārajā jomā. Vairāki darbinieki norādīja, ka AI laboratorijās vēl neesot iesaistīti neatkarīgi drošības pētnieki. Anthropic piektdien paziņoja, ka piesaistīs vērtētājus no uzņēmuma Faculty, kas pieder Accenture — Anthropic biznesa partnerim. Termiņš netika norādīts. Arī nesenais incidents starp OpenAI un Hugging Face tiek uzskatīts par nozares "modinātāju zvanu" attiecībā uz drošības riskiem.
