AI pionieri strīdas par atvērtā koda modeļu nākotni nozares drošības debatēs
Ai4 konferencē Lasvegasā trīs pazīstami AI pētnieki — Džefrijs Hintons, Fei-Fei Li un Endrjū Ngs — iezīmēja atšķirīgus uzskatus par to, cik atvērtai jābūt mākslīgā intelekta tehnoloģijai. Visi trīs tomēr piekrita, ka nozarei nepieciešams zināms regulējums.
Situācijā, kad lielās AI kompānijas arvien vairāk tiek uztvertas kā drošāka alternatīva atvērtā koda modeļiem, trīs ietekmīgi pētnieki nesenajā Ai4 konferencē Lasvegasā aizstāvēja atvērtības nozīmi nozarē. Diskusijā piedalījās Nobela prēmijas laureāts Džefrijs Hintons, uzņēmuma World Labs vadītāja Fei-Fei Li un Coursera līdzdibinātājs Endrjū Ngs.
Visi trīs pauda bažas par to, ka nozari varētu kontrolēt neliels skaits lielo uzņēmumu, līdzīgi kā mobilo operētājsistēmu tirgu kontrolē Apple un Google. Ngs uzsvēra, ka nevēlas redzēt AI nozarē tā sauktos "vārtu sargus", jo tas ierobežotu piekļuvi tehnoloģijai plašākai sabiedrībai, un aicināja veicināt vairāku konkurējošu modeļu un uzņēmumu pastāvēšanu.
Atšķirība starp atvērtu kodu un atvērtiem svariem
Hintons gan norādīja uz būtisku atšķirību starp atvērtā koda programmatūru, kuru var pārbaudīt un labot, un tā dēvētajiem "atvērtajiem svariem" — jau apmācītu modeļu parametru publiskošanu. Viņaprāt, tas atvieglo iespēju izmantot dārgi apmācītus pamatmodeļus ļaunprātīgiem mērķiem, piemēram, kiberuzbrukumiem. Tomēr viņš atzina, ka šī cīņa jau ir zaudēta, jo atvērtu svaru modeļi ir kļuvuši par nenovēršamu realitāti.
Ngs savukārt uzsvēra ģeopolitisko aspektu — ja Ķīnas atvērto modeļu izmantošana izplatītos Āzijā, Āfrikā un citviet jaunattīstības pasaulē, tas varētu ietekmēt to, kā miljardiem cilvēku uztver demokrātijas un cilvēktiesību idejas. Viņš pauda bažas, ka pārmērīga lobēšana un bailes ASV kavē vietējo atvērtā koda AI attīstību konkurencē ar Ķīnas piedāvājumiem.
Li noraidīja domu, ka izvēle jāizdara starp pilnīgu atvērtību un pilnīgu slēgtību, salīdzinot situāciju ar kodolfizikas nozari, kur zinātniskie pētījumi tiek publicēti atklāti, bet urāns tiek stingri regulēts. Kā piemēru veiksmīgai atvērtai sadarbībai viņa minēja Cilvēka genoma projektu, kas kļuva par pamatu tālākai zinātnes un uzņēmējdarbības attīstībai.
Noslēgumā visi trīs pētnieki piekrita, ka AI attīstībai nepieciešams zināms regulējums, lai nodrošinātu tehnoloģijas virzību sabiedrībai labvēlīgā virzienā.
