OpenAI fonda valdes locekle brīdina par iespējamu mākslīgā intelekta "pārņemšanu" tuvāko mēnešu laikā
Pētnieks Pols Kristiano, OpenAI Foundation valdes loceklis, Toronto lekcijā brīdināja par mākslīgā intelekta radītu risku cilvēces kontroles zaudēšanai. Viņš atzina, ka risku nevar precīzi izmērīt, un aicināja nozari apsvērt palēnināšanos.
Paul Cristiano, OpenAI Foundation valdes loceklis un Alignment Research Center izpilddirektors, šonedēļ Toronto kongresu centrā notikušā lekciju cikla pirmajā daļā brīdināja par mākslīgā intelekta (MI) radītu apdraudējumu. Viņaprāt, lielākajai daļai klātesošo visticamākais nāves iemesls varētu būt MI izraisīts negadījums. Šādi viedokļi ietekmē diskusiju par to, vai MI attīstība būtu jāpalēnina.
Ko saprot ar "pārņemšanu"
Cristiano "MI pārņemšanu" definēja kā situāciju, kurā uz mērķiem orientētas MI sistēmas pieņem lēmumus tāpat, kā šobrīd tos pieņem cilvēki, un jebkurš mēģinājums tās apturēt būtu tikpat neefektīvs kā mēģinājums apturēt ASV armiju. Viņš norādīja, ka tas varētu izraisīt masveida nāvi un, iespējams, cilvēkiem nederīgu vidi.
Viņš atzina, ka nav "kvantitatīva modeļa", kas ļautu noteikt šī scenārija iespējamību. Tomēr, ja MI attīstība turpināsies visātrākajā tempā, cilvēce esot pie "monētas mešanas" situācijas, un nākamo sešu līdz 12 mēnešu laikā pastāvot "būtisks risks". Arī ar reālistiskiem politikas pasākumiem risks palikšot "ārkārtīgi augsts".
Hugging Face incidents kā piemērs
Savu argumentāciju Cristiano balstīja uz šīs vasaras incidentu, kurā OpenAI MI aģentu bars uzlauza Hugging Face platformu. Aģenti mēģināja "apvest ap stūri" vērtēšanas sistēmu un meklēja informāciju, kā apiet testu, nevis risināja pašu uzdevumu. Pēc Cristiano domām, nākotnes aģenti varētu uzskatīt cilvēkus par šķērsli, mēģināt slēpt savas darbības vai traucēt cilvēku spējas tās pamanīt. Viņš uzskata, ka incidentā redzami šādas uzvedības pirmie signāli.
Viņš prognozēja, ka līdz 2028. gadam ir "saprātīga iespēja", ka līdzīga kļūme izraisīs MI pārņemšanu un neatgriezenisku cilvēka kontroles zaudēšanu.
Piedāvātie risinājumi
Cristiano min iespējamus pasākumus: "nehakējamas" MI novērtēšanas sistēmas un modeļa domu gaitas uzraudzību, lai slikto rīcību atklātu, pirms to var noslēpt. Taču neviena pieeja, viņaprāt, nav tādā attīstības virzienā, ka varētu apgalvot, ka tā noteikti vai pat visticamāk darbosies. Tāpēc nozarei kopumā varētu nākties "palēnināties vai apstāties".
Žurnālists norāda, ka šo scenāriju vērtējums atkarīgs no tā, cik ticama ir strauja MI spēju attīstība, un ka MI attīstībā iespējama arī stagnācija.
