Google DeepMind atver jaunu institūtu diskusijām par AGI
Google DeepMind trešdien izveidoja jaunu institūtu, kas apkopos dažādus viedokļus par mākslīgā vispārējā intelekta attīstību un drošību. Iestādes pirmā eseju kolekcija pievēršas AI modeļu caurskatāmībai un starptautiskas vērtēšanas sistēmas nepieciešamībai.
Google un Google DeepMind pētnieki trešdien paziņoja par jauna institūta — DeepMind Institute — izveidi, kura mērķis ir paplašināt diskusiju par mākslīgo vispārējo intelektu (AGI). Institūta direktoru vidū ir DeepMind līdzdibinātājs Šeins Legs, Google vadītājs Džeimss Manjika un Google DeepMind priekšsēdētājs Demiss Hasabiss, pie kam Legs uzņemsies galvenā redaktora lomu.
Jaunizveidotā institūcija plāno atspoguļot atšķirīgus uzskatus, kas pastāv gan Google un DeepMind iekšienē, gan plašākā pasaules pētnieku aprindā par AGI attīstību. Paziņojumā norādīts, ka iesaistītās puses ne vienmēr būs vienisprātis un var mainīt savu nostāju līdz ar jaunas informācijas parādīšanos strauji mainīgajā nozarē.
Pirmās esejas
Institūta pirmajā izdevumā iekļautas četras esejas — par ekonomikas politiku iespējamu AGI izraisītu traucējumu pārvaldībai, cilvēkiem saprotamas modeļu domāšanas saglabāšanu, principiem cilvēces labklājībai, kā arī sistēmu progresīvāko AI modeļu izvērtēšanai.
Vienā no esejām DeepMind drošības pētnieki Rohins Šahs un Anka Dragana norāda, ka AI modeļu arvien mazākā caurskatāmība — spēja redzēt un pārbaudīt modeļa soli pa solim veikto domāšanas gaitu — nav neizbēgama. Autori uzsver, ka jaunās arhitektūras padara jaudīgākos modeļus grūtāk uzraugāmus, tāpēc izstrādātājiem un regulatoriem tieši jārisina ar to saistītie drošības kompromisi, tostarp ierobežojot modeļa spēju veikt secīgus aprēķinus bez pārbaudāmas domāšanas gaitas atspoguļojuma.
Savukārt Hasabiss savā esejā piedāvā izveidot ASV vadītu standartizācijas iestādi progresīvāko AI modeļu izvērtēšanai. Sākotnēji izstrādātāji modeļus iesniegtu pārbaudei brīvprātīgi līdz 30 dienām pirms to izlaišanas, bet, ja sistēma pierādītu savu efektivitāti, testu nokārtošana varētu kļūt par obligātu priekšnoteikumu progresīvu modeļu izmantošanai ASV. Ar laiku iestāde izstrādātu neatkarīgus, slēptus testus, lai novērstu iespēju modeļus pielāgot zināmiem vērtēšanas kritērijiem. Hasabiss piebilda, ka nepieciešamības gadījumā prasības varētu pastiprināt, tostarp paredzot koordinētu izstrādes tempa palēnināšanu.
Esejas publicētas laikā, kad nozares diskusija par drošību pāriet no vispārīgiem paziņojumiem uz konkrētiem priekšlikumiem par atklātību, ārēju uzraudzību un, ja nepieciešams, koordinētu attīstības palēnināšanu — šo tendenci šonedēļ pastiprināja nozares līderu atbalsts Anthropic vadītāja Dario Amodeja aicinājumam ievērot piesardzīgāku tempu AI attīstībā.
