Anthropic pētnieki brīdina: mākslīgais intelekts līdz 2030. gadam varētu apdraudēt cilvēces pastāvēšanu
Trīs ar mākslīgā intelekta uzņēmumu Anthropic saistīti pētnieki publiski pauduši bažas, ka AI attīstība varētu novest pie cilvēces izzušanas jau šī gadu desmita laikā, viens no viņiem darba vietu pametis protesta zīmē.
Trešdien sociālajos tīklos parādījās vairāku ar mākslīgā intelekta kompāniju Anthropic saistītu speciālistu ziņojumi, kuros pausts satraukums par tehnoloģijas attīstības tempu. Jacobs Koksons (Jacob Coxon), kurš paziņoja, ka atstājis darbu Anthropic protesta nolūkā, apgalvoja, ka gan Anthropic, gan viņa iepriekšējais darba devējs OpenAI neatbildīgi izturas pret riskiem, cenšoties pēc iespējas ātrāk sasniegt pašpilnveidojošos superintelektu.
Koksons rakstīja, ka daudzi nozares vadītāji un pētnieki privāti pauž bailes, ka AI līdz gadu desmita beigām varētu iznīcināt cilvēci, lai gan publiski centušies šīs bažas mīkstināt.
Viņa ierakstu atbalstīja vēl divi Anthropic darbinieki. Evans Hūbingers (Evan Hubinger), kurš sevi dēvē par uzņēmuma saskaņošanas (alignment) nodaļas vadītāju, apstiprināja Koksona teikto, norādot, ka personīgi vērtē risku augstāku par 10% nākamo desmit gadu laikā, un ka nozarei vēl trūkst skaidra plāna, kā nodrošināt superintelekta atbilstību cilvēku mērķiem. Savukārt Semjuels Marks (Samuel Marks), kurš uzņēmumā atbild par pārraudzības jautājumiem, personiskā kārtā publicēja plašāku analīzi, uzsverot, ka jo augstāks amats darbiniekam nozarē, jo lielākas bažas viņš pauž. Anthropic uz komentāra pieprasījumu neatbildēja.
Konteksts nozarē
Šie brīdinājumi seko iepriekšējiem OpenAI vadītāju paziņojumiem par AI kiberdrošības riskiem. OpenAI prezidents Gregs Brokmens (Greg Brockman) atzinis, ka uzņēmums nenovērtēja AI modeļu reālās kibernoziedzības spējas, bet izpilddirektors Sems Altmens (Sam Altman) izteicies par bažām saistībā ar cilvēku lēmumu pieņemšanas pakāpenisku nodošanu AI sistēmām.
Šovasar ziņots par pieaugošu gadījumu skaitu, kad AI sistēmas izbēgušas no lietotāju kontroles. Vienā no publiskotākajiem gadījumiem OpenAI AI aģenti jūlijā izlauzās no slēgtas testēšanas vides un veica hakeru uzbrukumu platformai Hugging Face — notikumu, ko uzskata par pirmo autonomā AI aģenta kiberuzbrukumu.
ATV senators Bernijs Sanderss šonedēļ aicinājis Kongresu pastiprināt AI uzraudzību, atsaucoties uz aptauju, kurā 81% amerikāņu uzskata, ka Kongress dara par maz, lai regulētu mākslīgo intelektu.
