Igauņu tehnoloģiju miljardieris brīdina par AI riskiem, kaut pats no tā pelnīs miljardus
Skype līdzdibinātājs Jāns Tallinns gadiem brīdina par mākslīgā intelekta radītajiem eksistenciālajiem riskiem, tomēr viņa ieguldījums uzņēmumā Anthropic tuvākajos mēnešos varētu atnest miljardus. Par to raksta The Wall Street Journal.
Igauņu izcelsmes tehnoloģiju investors un Skype līdzdibinātājs Jāns Tallinns (54) jau vairāk nekā desmit gadus publiski runā par mākslīgā intelekta attīstības briesmām, vienlaikus ieguldot naudu tieši tajos AI uzņēmumos, kuru darbība viņu satrauc, ziņo laikraksts The Wall Street Journal.
Minēto nedēļu Tallinns pavadīja Ņujorkā ANO Ģenerālās asamblejas laikā — kārtējā apstāšanās viņa gada garumā ilgstošajā ceļojumu sērijā, kuras laikā viņš uzņēmējiem, investoriem un politikas veidotājiem stāsta, ka AI attīstība var beigties ar cilvēces izzušanu.
Tallinns ir viens no pirmajiem uzņēmuma Anthropic investoriem, un tā gaidāmais sākotnējais publiskais akciju piedāvājums (IPO) viņam varētu atnest vairākus miljardus. Tieši bažas par AI drošību, nevis to noliegšana, ir motivējušas viņu ieguldīt — viņa mērķis ir veicināt lielāku uzsvaru uz drošību nozarē.
Tēma nonāca publiskajā telpā pēdējo nedēļu laikā, kad no Anthropic aizgāja pētnieks Džeikobs Koksons, brīdinot, ka mākslīgais intelekts varētu izslīdēt no kontroles. Anthropic, kas izstrādā Claude un konkurē ar OpenAI, uzsver, ka savā darbā prioritāri liek drošību.
Savā paziņojumā Tallinns norādīja, ka draudi netiek uzņemti pietiekami nopietni un ka nozare sacenšas izveidot tehnoloģiju, kas varētu izbeigt cilvēci. Viņš aicināja vairāk cilvēku pieprasīt tiesības saprast un runāt par šiem riskiem.
Starp Tallinna bažām ir sacensība starp AI laboratorijām, ASV un Ķīnas sāncensība, kā arī AI spēja pati sevi uzlabot. Viņš min arī tālejošus scenārijus — datu centrus, kas aizņem lauksaimniecības zemi, izraisot badu, vai AI inženierus, kas maina Zemes atmosfēru, padarot to nepiemērotu dzīvei.
Pēc draugu un kolēģu vārdiem, Tallinns uzskata, ka, ja viņš nebūtu ieguldījis Anthropic, viņa vietā varētu būt ienācis investors, kam drošība rūp mazāk. Viņa investīciju fonda Metaplanet vadošais partneris Raunno Miljands norādīja, ka drošībai apzinīgiem inženieriem jāizvēlas — vai nu izolēties, vai censties ietekmēt procesu, lai palielinātu cilvēces izredzes izdzīvot.
