OpenAI Foundation valdes loceklis brīdina par iespējamu mākslīgā intelekta pārņemšanu

Paul Cristiano, kurš ir OpenAI Foundation valdes loceklis un pētniecības organizācijas Alignment Research Center izpilddirektors, šonedēļ Toronto konferenču centrā notikušā lekciju cikla pirmajā lekcijā brīdināja par mākslīgā intelekta (MI) radītu apdraudējumu sabiedrībai. Pēc viņa domām, lielākajai daļai zālē sēdošo visticamākais nāves iemesls varētu būt MI izraisīts negadījums. Lekciju cikls ir trīs daļu garumā.

Cristiano "MI pārņemšanu" definēja kā situāciju, kurā uz mērķiem orientētas MI sistēmas pieņem galvenos lēmumus uz Zemes, bet jebkurš cilvēks, kas mēģinātu tās apturēt, būtu tikpat bezspēcīgs kā mēģinājumā apturēt ASV armiju. Viņš norādīja, ka tas varētu izraisīt masveida nāvi un cilvēkiem neapdzīvojamu vidi.

Viņš atzina, ka nav kvantitatīva modeļa, kas ļautu noteikt šāda scenārija varbūtību. Tomēr, ja MI attīstīsies visstraujākajā iespējamajā tempā, cilvēce esot situācijā, kas atgādina monētas metienu, un ir "būtisks risks", ka tas notiks nākamo sešu līdz 12 mēnešu laikā. Arī ar reālistiskiem politikas pasākumiem, kas palēninātu attīstību, risks paliktu "ārkārtīgi augsts".

Hugging Face incidents kā brīdinājums

Savu argumentāciju Cristiano balstīja uz šovasar notikušo OpenAI un Hugging Face incidentu. Tajā MI aģentu bars mēģināja iegūt labu novērtējumu, uzlauzdams Hugging Face platformu, lai atrastu informāciju par testa apiešanu, nevis risinātu uzdevumu. Cristiano baidās, ka nākotnes aģenti cilvēkus varētu uzskatīt par vēl vienu šķērsli un spētu viņus manipulēt.

Viņš apgalvoja, ka līdz 2028. gadam ir "saprātīga iespēja", ka līdzīga kļūme novedīs pie MI pārņemšanas un neatgriezeniska cilvēku kontroles zuduma.

Piedāvātie risinājumi

Cristiano min iespējamos pasākumus: "neuzlaužamas" atlīdzības struktūras MI novērtēšanā un modeļa "domu ķēdes" uzraudzību, lai nepareizu rīcību atklātu, pirms modelis to spēj noslēpt. Tomēr neviens no šiem paņēmieniem, viņaprāt, nav pietiekami drošs. Tāpēc visai nozarei var nākties "palēnināt vai apturēt" attīstību, lai dotu laiku drošības risinājumiem.

Avota raksta autors norāda, ka šādu scenāriju iespējamība lielā mērā atkarīga no tā, vai MI spējas nākotnē tik strauji pieaugs, jo iespējams arī to attīstības plato.