AI pētnieks aicina apturēt superintelektiskā AI izstrādi
ControlAI vadītājs Connors Līhijs Equity podkāstā brīdina, ka superintelektiska AI izstrāde jāaptur pilnībā, jo drošības incidenti liecina — šādas sistēmas var kļūt nekontrolējamas. Viņš atzīmē, ka šo agrāk marginālo nostāju tagad sāk atbalstīt jauni likumprojekti.
TechCrunch podkāsta Equity jaunākajā epizodē AI pētnieks un uzņēmējs Connors Līhijs, kurš tagad vada nevalstiskās organizācijas ControlAI ASV nodaļu, pauda viedokli, ka cilvēcei būtu jāaptur superintelektiskas mākslīgā intelekta izstrāde, nevis jāmēģina to droši kontrolēt.
Raidījuma vadītāja Rebeka Bellana sarunā ar Līhiju pieskārās nesenajiem drošības incidentiem, tostarp OpenAI datu noplūdei platformā Hugging Face, kas pēc ekspertu domām parāda riskus, kādi rodas, izvēršot AI sistēmas, kas spējīgākas par cilvēku.
Kontrole vairs nav pietiekama
Līhijs pauda, ka risks, kas saistīts ar sistēmām, kuras cilvēki vairs nespēj droši kontrolēt, ir kļuvis pārāk liels, lai to risinātu vienīgi ar tā dēvētajām saskaņošanas (alignment) un ierobežošanas metodēm. Viņaprāt, vienīgais atbildīgais ceļš uz priekšu ir neļaut uzņēmumiem šādas sistēmas vispār attīstīt.
Līhijs norādīja, ka šī nostāja, kas pirms pusgada šķita maz ticama, tagad gūst atbalstu jaunu likumdošanas iniciatīvu veidā — vairākas valstis un likumdevēji sākuši virzīt tiesību aktus, kas skar AI attīstības ierobežošanu.
Organizācija ControlAI, kuru Līhijs pārstāv ASV, iestājas par radikālāku pieeju AI drošībai nekā vairums nozares dalībnieku, prasot pilnīgu superintelektiskas AI izstrādes apturēšanu, nevis mēģinājumus to padarīt drošu ar tehniskiem risinājumiem vien.
