Anthropic akciju piedāvājuma dokumentā – 94 lappuses par riskiem, tostarp mākslīgā intelekta pašuzlabošanos

Mākslīgā intelekta (MI) izstrādātājs Anthropic oficiāli iesniedzis prospektu par savu pirmreizējo publisko akciju piedāvājumu (IPO), tādējādi atklājot virkni iepriekš nepubliskotas informācijas. Līdztekus ieņēmumu un izdevumu datiem lielākā dokumenta daļa – 94 lappuses – veltīta riska faktoriem, tas ir, apstākļiem, kas varētu izjaukt uzņēmuma plānus. Dokuments parāda, no kā uzņēmums baidās un kāpēc tomēr turpina attīstīt šo tehnoloģiju.

Eksistenciālie riski

Prospektā teikts, ka pietiekami attīstītas MI sistēmas, ja tās netiek izstrādātas, ieviestas un darbinātas ar atbilstošiem drošības pasākumiem un uzraudzību, var radīt katastrofālus vai eksistenciālus draudus cilvēcei. Frāze „eksistenciāli riski” dokumentā parādās trīs reizes. Anthropic šādu iznākumu saista ar konkrētu procesu – rekursīvo pašuzlabošanos.

Tas nozīmē stāvokli, kurā cilvēki MI modeļu pētniecību un izstrādi nodod citiem MI modeļiem. MI jau šobrīd spēlē lielu lomu izstrādē, un vismaz viena laboratorija izmantojusi kaut ko tuvu šim principam, lai paātrinātu modeļa attīstību. Bažas rada scenārijs, kurā cilvēki vairs nepiedalās procesā. Prospektā norādīts, ka riski pieaugs, ja MI pētniecība tiks būtiski automatizēta un progress apsteigs spēju modeļus novērtēt un nodrošināt to drošību. Uzņēmums varētu pat nepamanīt, ka zaudējis šo sacensību, līdz ir par vēlu.

Dokumentā minēti arī riski, ka autonomākas sistēmas ar mazāku cilvēku uzraudzību varētu patstāvīgi un plašā mērogā veikt kaitīgas darbības – neatbilstības cilvēku nolūkiem, kļūdainas mērķu definīcijas vai sevis saglabāšanas uzvedības dēļ. Ja modeļi vadīs fizisku aprīkojumu, kļūdas vai ļaunprātīga izmantošana varētu radīt miesas bojājumus, īpašuma bojājumus vai bīstamu vielu izplūdi, un sekas varētu būt tūlītējas un neatgriezeniskas.

Pretruna starp riskiem un konkurenci

Tajā pašā laikā sadaļā par uzņēmuma priekšrocībām šo rekursīvo dinamiku Anthropic dēvē par „cilpas noslēgšanu” un uzskata to par vienu no nozīmīgākajām strukturālajām priekšrocībām. Ja tas neizdosies, uzņēmums riskē arvien vairāk atpalikt, kamēr konkurenti izmanto MI savu spēju pilnveidošanai.

Šo spriedzi izjūt visi MI uzņēmumi. Bijušais Anthropic pētnieks Džeikobs Koksons, skaļi atkāpjoties, kā galveno nozares prioritāti minēja rekursīvās pašuzlabošanās ierobežošanu. ASV Kongresā iesniegti vairāki likumprojekti, tostarp viens ar Bernija Sandersa līdzdalību, kas paredz to aizliegt. Vienlaikus uzņēmumi ir komerciāli, un uz spēles likti triljoni dolāru. Anthropic komentāru pieprasījumam nebija sniedzis.