Pētnieki brīdina: nav skaidrs, kā praktiski apturēt AI attīstību
Neraugoties uz augošu politisko un publisko spiedienu bremzēt mākslīgā intelekta attīstību, eksperti atzīst — efektīvi un uzticami veidi, kā to izdarīt, joprojām nav izstrādāti. Jauns pētījums aicina uz šo jautājumu skatīties kā uz neatrisinātu zinātnisku problēmu.
Jauns ziņojums ar nosaukumu "Pacing the Frontier" brīdina, ka, lai gan daudzi AI pētnieki uzskata tehnoloģiju par potenciāli bīstamu, neviens droši nezina, kā to reāli ierobežot. Ziņojuma līdzautors Reimonds Duglass no Toronto universitātes uzsver, ka šis ir jāsāk risināt kā pētniecisks uzdevums, jo pašlaik trūkst skaidrības pat par pieejamajām iespējām.
Bažas pastiprinājis fakts, ka bijušais Anthropic pētnieks, pametot uzņēmumu, brīdinājis par iespējamu cilvēces apdraudējumu tuvāko gadu laikā, un šo viedokli atbalstījis arī uzņēmuma drošības laboratorijas vadītājs. Lielo AI kompāniju vadītāji — Anthropic, OpenAI, SpaceXAI un Google DeepMind pārstāvji — visi paziņojuši par atbalstu kaut kāda veida attīstības palēnināšanai vai pauzei. Īpašas bažas rada tas, ka AI jau tiek izmantots jaunu, jaudīgāku modeļu izstrādē, radot bažas par pastiprinošos pašuzlabošanās ciklu.
Iespējamie risinājumi
Viena ideja ir piešķirt neatkarīgiem vērtētājiem plašāku piekļuvi modeļiem to testēšanai un iespējamā nepareizas uzvedības pārbaudei. Bijušais Lielbritānijas AI drošības institūta galvenais zinātnieks Džefrijs Ērvings uzskata, ka stingras pārbaudes varētu īslaicīgi apturēt jaudīgāko modeļu attīstību. Tomēr daži kritiķi, tostarp organizācijas Control AI vadītājs Konors Līhijs, apgalvo, ka pašreizējās pārbaudes nav pietiekami neatkarīgas un ka tajās vajadzētu iesaistīt tādas iestādes kā FBI vai NSA.
Cita pieeja paredz kontrolēt skaitļošanas jaudu — datu centros izmantoto grafiskā procesora shēmu skaitu un jaudu. Pētnieki piedāvājuši ideju modificēt mikroshēmas tā, lai tās kriptogrāfiski reģistrētu skaitļošanas apjomu vai pat ietvertu attālinātu "izslēgšanas" mehānismu.
Eksperti arī uzsver starptautiskās sadarbības nozīmi, īpaši ar Ķīnu, kas arī spēj veidot jaudīgus AI modelus. ASV jau ierobežojusi Nvidia jaudīgāko mikroshēmu eksportu, taču tas devis ierobežotus rezultātus. Ziņojuma autori brīdina, ka pārsteidzīgu vai politiski motivētu kontroles pasākumu ieviešana varētu situāciju pasliktināt, nevis uzlabot.
