Jauna bezpeļņas organizācija Trillium Labs sola veikt AI izpēti atklāti
Divi nozares zinātnieki nodibinājuši bezpeļņas organizāciju Trillium Labs, kas plāno publiski pētīt riskantas AI jomas, tostarp modeļu spēju uzlabot pašus sevi. Mērķis ir veicināt pārredzamību, ko lielās AI kompānijas parasti neievēro.
Nathan Lambert un Tom Zick, abi pieredzējuši AI nozares zinātnieki, ir izveidojuši jaunu bezpeļņas organizāciju Trillium Labs, kas pretēji daudziem lielajiem AI uzņēmumiem apņemas savu izpēti darīt publiski pieejamu. Organizācija nodomājusi pētīt vairākas jomas, tostarp potenciāli riskantas, piemēram, procesus, kuros AI modeļi palīdz uzlabot citus modeļus, kā arī autonomu AI aģentu darbību.
Atšķirībā no vadošajiem AI uzņēmumiem, kuru modeļi pieejami tikai caur lietotnēm vai programmēšanas saskarnēm, bez detalizētas informācijas par to iekšējo darbību, Trillium Labs plāno publicēt savu eksperimentu detaļas, lai citi zinātnieki varētu tos pārbaudīt un atkārtot. Lambert uzskata, ka slēgtā pieeja, kuru izmanto lielākā daļa vadošo laboratoriju, mazina kopienas spēju kritiski izvērtēt idejas un dod mazāku iespēju ārējiem ekspertiem palīdzēt mazināt riskus.
Fokuss uz smalko pielāgošanu un pastiprinošo mācīšanos
Sākotnēji organizācija koncentrēsies uz lielu modeļu pēcapmācības posmu, tostarp pastiprinošās mācīšanās izpēti — metodi, kas modeļus padara spējīgākus, bet reizēm arī neparedzamākus vai pārmērīgi pieklājīgus. Tiks pētīta arī tā sauktā rekursīvā paš-uzlabošana, kad AI palīdz izstrādāt jaunus modeļus — process, kas raisījis bažas nozarē par iespējamu kontroles zaudēšanu pār tehnoloģiju attīstību.
Abi dibinātāji iepazinās COVID-19 pandēmijas laikā, studējot AI UC Berkeley universitātē. Lambert iepriekš strādājis pētniecības laboratorijā Ai2 un uzņēmumā Hugging Face, savukārt Zick darbojusies Hārvardas universitātē un palīdzējusi izstrādāt AI politikas vadlīnijas finanšu kompānijā Charles Schwab.
Trillium Labs ir saņēmusi neatklāstu finansējuma summu no Schmidt Sciences, Halcyon Futures un citiem investoriem. Dibinātāji plāno kopumā piesaistīt 40 līdz 100 miljonus dolāru un tuvāko 18 mēnešu laikā 30 miljonus dolāru atvēlēt modeļu apmācībai.
