Atvērtā pirmkoda AI laboratorija Arcee: Ķīnas modeļi nav bīstamāki par citu atvērtā koda programmatūru

ASV atvērtā pirmkoda mākslīgā intelekta laboratorija Arcee, kas izstrādā pašmāju alternatīvas Ķīnas modeļiem, ieņēmusi negaidītu nostāju diskusijās par Ķīnas atvērtās svara AI modeļu drošību. Uzņēmuma tehnoloģiju direktors Lūkass Atkinss uzskata, ka šie modeļi nav bīstamāki par jebkuru citu atvērtā koda programmatūru, ko uzņēmumi ikdienā izmanto.

Lai gan bažas par Ķīnas modeļu potenciālu kalpot par ķīniešu hakeru rīku ir saprotamas, Atkinss norāda, ka šādas bailes ir nepamatotas. Atšķirībā no slēgtā koda programmatūras, atvērtās svaras modeļu avota kods ir redzams un pārbaudāms, ja tas lejupielādēts no tādām platformām kā Hugging Face. Tas, kas nav pieejams, ir modeļu apmācībai izmantotās metodes un dati.

Atkinss uzsver, ka nav iespējams, ka modeli izveidojušais uzņēmums varētu piekļūt modelim, kas darbojas cita uzņēmuma vidē. Lielās organizācijas pirms modeļu izmantošanas tās parasti rūpīgi pārbauda un pielāgo savām vajadzībām, tostarp novērtējot nobīdes, toksicitāti un halucinācijas.

Lai gan teorētiski modelis varētu radīt ļaunprātīgas koda aizmugures durvis, Atkinss to uzskata par ārkārtīgi sarežģītu. Valodas modeļu radošais raksturs padara maz ticamu, ka pašreizējie modeļi spētu pēc pieprasījuma radīt ļaunprātīgu kodu.

Tā vietā, lai aizliegtu Ķīnas modeļus, Atkinss aicina veicināt atvērtu ekosistēmu ASV. Viņš atzīmē, ka Arcee gūst labumu no Ķīnas modeļu atvērtības – uzņēmums var mācīties no to izstrādes un veidot uz tiem savus risinājumus. "Galu galā veids, kā konkurēt ar Ķīnas modeļiem, ir izlaist labāku modeli," saka Atkinss.