Anthropic brīdina: uzņēmums var drīz sasniegt savu rekursīvās pašuzlabošanās slieksni
Mākslīgā intelekta uzņēmums Anthropic savā pārskatītajā akciju piedāvājuma dokumentā S-1A norāda, ka drīz var sasniegt savu iekšējo definīciju par AI strauji paātrinātu attīstību. Uzņēmums apgalvo, ka neviens tā pašreizējais modelis šo slieksni vēl nav pārsniedzis.
ASV mākslīgā intelekta uzņēmums Anthropic, kas izstrādā Claude modeļus, pirmdien, 2. novembrī, iesniegtajā pārskatītajā reģistrācijas dokumentā S-1A (dokuments, ko uzņēmums iesniedz, gatavojoties akciju piedāvājumam biržā) brīdina, ka var drīz sasniegt rekursīvās pašuzlabošanās jeb RSI līmeni. Tas nozīmē brīdi, kad AI kļūst tik prasmīgs savas apmācības veikšanā, ka mākslīgā intelekta spēju attīstība strauji paātrinās. Tas ir svarīgi, jo uzņēmums pats atzīst šādu attīstību par būtisku drošības risku.
Ko teikts dokumentā
Risku faktoru sadaļā Anthropic norāda, ka arvien biežāk izmanto AI savā pētniecībā un izstrādē. Tas, kā teikts dokumentā, var likt modeļu spējām attīstīties ātrāk, nekā uzņēmums spēj izstrādāt, pārbaudīt un ieviest atbilstošus drošības, saskaņošanas un aizsardzības pasākumus. Uzņēmums atzīst, ka agrāk nav pamanījis ievērojamu izstrādes tempa paātrinājumu līdz brīdim, kad tas jau bija noticis, un tā var gadīties arī turpmāk.
Anthropic raksta, ka tā iekšējie aprēsķini un cerības attiecībā uz nākamajiem modeļiem liecina, ka uzņēmums var drīz sasniegt savas Atbildīgās mērogošanas politikas (Responsible Scaling Policy) definīciju par „dramatiski paātrinātu progresu, ko nodrošina AI”. Pašreizējos modeļus uzņēmums šo slieksni pārsniedzošiem nav atzinis un turpina vērtēt datus.
Cilvēku kontrole
Anthropic apgalvo, ka paredzamā nākotnē paturēs cilvēkus pētniecības un izstrādes procesā. Dokumentā teikts, ka uzņēmums negaida spēt droši izmantot Claude, lai pilnīgi autonomi veidotu nākamās robežmodeļu paaudzes bez būtiskas cilvēku uzraudzības vai izpratnes. Tāpēc tiek apsvērti Atbildīgās mērogošanas politikas grozījumi, lai cilvēki saglabātu kontroli pār modeļu izstrādi.
Skeptiķu viedoklis
TechCrunch norāda, ka S-1 dokuments kalpo gan kā informācijas atklāšana, gan kā mārketings, tāpēc apgalvojumi par tuvošanos paši sevi veidojošam modelim var daļēji kalpot otram mērķim. Vienlaikus izdevums atzīmē, ka Claude spējas, īpaši programmēšanā, matemātikā un kiberdrošībā, šogad ir būtiski augušas.
