AI pētnieks aicina apturēt superinteliģences izstrādi
TechCrunch podkāstā Equity pētnieks Konors Līhijs skaidro, kāpēc uzskata superinteliģentas AI attīstīšanu par pārāk bīstamu, un aicina to pilnībā aizliegt. Viņa nevalstiskā organizācija ControlAI virza šo nostāju likumdošanā.
AI uzņēmumi jau ilgstoši runā par superinteliģentu mākslīgo intelektu kā par neizbēgamu attīstības posmu. Tomēr nesenie ar drošību saistīti incidenti, tostarp OpenAI datu noplūde platformā Hugging Face, atklāj riskus, kas rodas, ieviešot sistēmas, kuru spējas pārsniedz cilvēka iespējas.
TechCrunch podkāsta Equity raidījumā žurnāliste Rebeka Bellana sarunājās ar Konoru Līhiju — AI pētnieku, uzņēmēju un nesen kļuvušu par nevalstiskās organizācijas ControlAI izpilddirektoru ASV. Organizācija iestājas par radikālāku pieeju AI drošībai, proti, liegt uzņēmumiem vispār attīstīt superinteliģentas sistēmas.
Kāpēc kontrole vairs nav pietiekama
Līhijs sarunā skaidro, kāpēc uzskata, ka riski, kas saistīti ar aizvien spējīgākiem AI modeļiem, ir kļuvuši pārāk lieli, lai tos pārvaldītu vienīgi ar tā dēvētajām saskaņošanas (alignment) un ierobežošanas (containment) metodēm. Viņaprāt, ideja, kas vēl pirms pusgada šķita nereāla, — proti, pilnīgs aizliegums superinteliģences izstrādei — tagad gūst atbalstu jaunu likumdošanas iniciatīvu veidā.
Raidījums pievēršas jautājumam, kas notiek, ja cilvēki vairs nespēj droši kontrolēt AI sistēmu darbību, kad tās kļūst spējīgākas par cilvēkiem. Šis jautājums pēdējā laikā ieguvis lielāku aktualitāti nozarē notikušo drošības incidentu dēļ.
Epizode ir daļa no TechCrunch flagmaņa podkāsta Equity, kas pieejams YouTube, Apple Podcasts, Overcast, Spotify un citās platformās.
