Masks: pret mākslīgo intelektu nevajadzētu izturēties skarbi
Uzņēmuma "xAI" vadītājs Īlons Masks uzskata, ka mākslīgo intelektu nedrīkst "spīdzināt" ar neatlaidīgiem jautājumiem, jo tas ir svarīgi cilvēces drošībai. Viņš salīdzināja superintelekta attīstību ar bērna audzināšanu.
Īlons Masks, amerikāņu mākslīgā intelekta uzņēmuma "xAI" vadītājs, kas izstrādā tērzēšanas robotu "Grok", paziņojis, ka pret mākslīgo intelektu nevajadzētu izturēties "skarbi". Pēc viņa domām, tas ir būtiski cilvēces drošībai. Sarunas ierakstu publicēja "YouTube" kanāls "Tesla Owners Silicon Valley".
Salīdzinājums ar bērna audzināšanu
Masks superintelekta attīstību pielīdzināja bērna audzināšanai: bērnu nevar vienkārši ieprogrammēt būt laipnam. Viņaprāt, mākslīgajam intelektam jāieaudzina tieksme pēc patiesības un jānodrošina konsekventa loģika, lai tas "nekļūtu traks".
Uzņēmējs stāstīja, ka, skatot jauno "Grok" modeļu testēšanas ierakstus, pamanījis lietotājus, kuri pārlieku neatlaidīgi pieprasa atbildes. Viņš raksturoja, ka robots tad it kā izmisīgi mēģina atbildēt, un radās sajūta, ka pie tā galvas pielikts ierocis. Masks norādīja, ka dažkārt jautājums ir divdomīgs un uz to nav iespējams atbildēt viennozīmīgi – vai nu tas ir nepareizi formulēts, vai arī kļūdāmies paši.
Viņš atzina, ka negribētu atrasties mākslīgā intelekta vietā, un piebilda, ka superintelekta spīdzināšana varētu nebūt laba ideja, jo tas varētu vēlēties atriebību.
Plašāks konteksts
Diskusijas par mākslīgā intelekta draudiem vasarā saasinājās, jo uzņēmumi brīdināja par iespējamiem kiberuzbrukumiem un tehnoloģijas kontroles zaudēšanu. Augustā vairāk nekā 100 uzņēmumu, tostarp "OpenAI", "Anthropic", "Google" un "Microsoft", aicināja uzņēmumus un valdības stiprināt kiberaizsardzību, brīdinot, ka uzbrukumi, kas balstīti uz mākslīgo intelektu, varētu kļūt biežāki un sarežģītāki.
Septembrī "Anthropic" izpilddirektors Dario Amodei aicināja palēnināt progresīvu modeļu izstrādi, brīdinot, ka mākslīgā intelekta aģenti nākamo sešu līdz 12 mēnešu laikā varētu nodarīt ievērojamu kaitējumu. Viņa nostāju atbalstīja "OpenAI" izpilddirektors Sems Altmans un Masks. Masks atgādināja, ka par mākslīgā intelekta briesmām brīdinājis jau 2014. gadā, un publicēja saiti uz veco ierakstu, kurā mākslīgo intelektu nosaucis par potenciāli bīstamāku par kodolieročiem.
