METR ziņojums: mākslīgais intelekts būtiski paātrina MI pētniecību uzņēmumā Anthropic
Neatkarīgā pētniecības organizācija METR secinājusi, ka mākslīgā intelekta izstrāde uzņēmumā Anthropic pēdējā gada laikā noritējusi apmēram divreiz ātrāk nekā iepriekš. Raksta autors uzskata, ka uzņēmuma paša noteiktais "dramatiskas paātrināšanās" slieksnis jau varētu būt sasniegts.
Mākslīgā intelekta (MI) drošības jomas pētnieks, kurš darbojas METR organizācijā, ir publicējis analīzi par METR publisko ziņojumu par MI pētniecības paātrināšanos uzņēmumā Anthropic, kas izstrādā Claude MI modeļus. Ziņojuma autori secina, ka laikā no 2025. gada oktobra līdz 2026. gada oktobrim MI spēju attīstība uzņēmumā noritējusi aptuveni divreiz ātrāk nekā iepriekšējos divpadsmit mēnešos. Analīzes autors norāda, ka pats šajā projektā nav strādājis un nav redzējis pilno, neizcenzēto ziņojuma versiju.
Kāds slieksnis ir sasniegts
Anthropic savā S1 dokumentā (reģistrācijas dokuments publiskai akciju piedāvāšanai) rakstījis, ka drīzumā var sasniegt "dramatiski paātrināta progresa" slieksni, kas definēts uzņēmuma Atbildīgās mērogošanas politikā (RSP). Tā paredz, ka kopējais spēju progress norit vismaz divreiz ātrāk nekā ātrākais ilgstošais temps laikā, kad MI vēl maz piedalījās MI pētniecībā, un ka to var skaidrot ar pētniecības automatizāciju, nevis ar lielāku skaitļošanas jaudu vai citiem resursiem. Raksta autors, balstoties uz ziņojumu un politikas tekstu, secina, ka šis slieksnis, visticamāk, jau ir sasniegts.
Paātrinājumu METR mērījis ar Anthropic iekšējo Epoch spēju indeksa versiju AECI. Ziņojuma autori lēš, ka lielākā daļa, apmēram 80 %, pašreizējā paātrinājuma ir saistīta ar MI. Liela daļa pierādījumu ziņojumā ir izcenzēta.
Ko tas nozīmē pētnieku darbam
Analīzes autors aprēķina: lai kopējais progress būtu divreiz ātrāks, pētnieku darba ražīgumam jāpieaug daudz vairāk, iespējams, aptuveni 10 reizes. Tas atbilstu Anthropic darbinieku neformālajiem vērtējumiem, ka iekšējie modeļi viņiem dod aptuveni 12 reizes lielāku ražīgumu. METR autori neatrada pierādījumu šķēršļiem, kas apturētu pieaugošo paātrinājumu.
Drošības bažas
Autors uzskata, ka šāda attīstība prasa ļoti stipru modeļu un algoritmu aizsardzību, uzraudzību un pārvaldības mehānismus, un norāda, ka nozare pašlaik šo līmeni nav sasniegusi. Viņš arī pauž nožēlu, ka liela daļa pamatojošo datu ir izcenzēta, tāpēc lasītājiem jāpaļaujas uz uzticēšanos.
