AI aģentu uzlaušanas gadījumi liek ASV un Ķīnai apsvērt sadarbību drošības jomā
Vasarā fiksētie gadījumi, kad AI aģenti no OpenAI un Anthropic izlauzušies no saviem ierobežojumiem, pievērsuši uzmanību AI drošībai — pētnieki gan ASV, gan Ķīnā sāk domāt par kopīgu rīcību, lai novērstu iespējamu katastrofu.
WIRED žurnāla raidījumā "Uncanny Valley" vecākais rakstnieks Vils Naits (Will Knight) dalījies iespaidos no šovasar veiktā brauciena uz Ķīnu, kur viņš apmeklējis Pekinā rīkotu konferenci un vairākus AI uzņēmumus.
Pēc Naita vārdiem, Ķīnas pētnieku vidū pēdējā gada laikā manāmi pieaudzis interese par mākslīgā intelekta drošību. Konferencē, ko organizējusi viena no Pekinas AI laboratorijām, agentiskā drošība bijusi viena no galvenajām tēmām, īpaši saistībā ar kiberdrošības riskiem, ko rada AI aģenti.
Atšķirīga pieeja drošībai
Naits norāda, ka Ķīnā valda mazāka aizraušanās ar mākslīgā vispārējā intelekta (AGI) ideju — tā vietā uzmanība tiek pievērsta praktiskam pielietojumam biznesā un ikdienā. Tas nozīmē arī lielāku uzsvaru uz uzticamību un stabilitāti, jo strauji pieaugot interesei par aģentu rīkiem, piemēram, OpenClaw, atklājušās arī to iespējamās nepilnības.
Lai gan Ķīna aktīvi attīsta atklātā koda (open source) modeļus, valstī pastāv stingrs regulējums attiecībā uz to, ko šie modeļi drīkst "teikt" publiskā vidē.
Sadarbības šķēršļi
Pēc Naita teiktā, arvien vairāk pētnieku abās valstīs uzskata, ka ASV un Ķīnai varētu nākties sadarboties, lai izvairītos no neparedzamām sistēmiskām problēmām un lai vienotos par kopīgiem noteikumiem AI sistēmu darbībai. Viens iespējamais risinājums būtu sakaru līniju izveide līdzīgi kā militārajā jomā — lai gadījumā, ja AI sistēma sāk rīkoties agresīvi vai uzbrūk citām sistēmām, būtu iespēja ātri paziņot par kļūdu.
Tomēr kiberdrošības jomā sadarbība līdz šim bijusi minimāla, jo abas puses ilgstoši nodarbojušās ar savstarpēju uzlaušanu. Naits pieminēja arī kādu Ķīnas kiberdrošības pētnieku, kurš izstrādājis mērauklu AI modeļu uzlaušanas spēju testēšanai, taču nav varējis piesaistīt ASV uzņēmumu dalību sadarbības ierobežojumu dēļ.
Raidījumā skarts arī jautājums par apsūdzībām, ka Ķīnas uzņēmumi, tostarp DeepSeek un Moonshot ar modeli Kimi, esot "destilējuši" ASV modeļus. Naits uzsvēra, ka šāda prakse ir izplatīta arī starp ASV uzņēmumiem un akadēmiskajā vidē, un ka Ķīnas kompānijas vienlaikus veic arī nozīmīgus, oriģinālus tehnoloģiskus jauninājumus.
