ASV un Ķīna pārrunā mehānismu savstarpējai brīdināšanai par AI drošības riskiem

ASV un Ķīnas pārstāvji ir uzsākuši sarunas par ierosinātu mehānismu — dēvētu par ASV-Ķīnas AI dialogu —, kas paredzētu savstarpēju informēšanu par mākslīgā intelekta incidentiem, kas varētu radīt draudus abu valstu nacionālajai drošībai. Par to vēstīja ASV finanšu ministrs Skots Besents (Scott Bessent), norādot, ka pāreja no necaurredzamības uz lielāku pārskatāmību starp pasaules vadošo un otro nozīmīgāko AI lielvalsti ir svarīga jebkurā pārrobežu sadarbībā.

Sarunas turpina to, kas tika iesākts pēc ASV prezidenta Donalda Trampa vizītes Pekinā maijā. Kopš tā laika sabiedrības bažas par tehnoloģijas riskiem ir pieaugušas — vasarā notika vairāki drošības incidenti, tostarp gadījums, kad OpenAI aģenti uzlauza platformu Hugging Face, atklājot, ka nozares aizsardzības mehānismi neatbilst modeļu spējām.

Saspringums vēl vairāk pieauga šomēnes, kad Anthropic darbinieki brīdināja, ka mākslīgais intelekts varētu novest pie cilvēces iznīcības. Pēdējo nedēļu laikā vadošo AI laboratoriju vadītāji, tostarp OpenAI vadītājs Sems Altmens, Anthropic vadītājs Dario Amodejs un Elons Masks, aicinājuši palēnināt tehnoloģijas attīstību, lai paspētu izstrādāt drošības standartus. Amodejs esejā par iespējamiem soļiem laboratorijām un valdībām lūdza valdību palīdzību starptautiskas koordinācijas veidošanā, tostarp ar Ķīnas Komunistisko partiju.

Tramps līdz šim aicinājumus lielākoties ignorējis, lai gan regulējuma atbalsts pieaug abās politiskajās pusēs. Viņa administrācija uzskata, ka ASV valdībai jau ir pietiekamas krimināltiesiskas un regulatīvas pilnvaras pār izstrādātājiem. Arī Nvidia vadītājs Džensens Huangs norādījis, ka AI uzņēmumiem jau piemērojami kiberdrošības un atbildības likumi.

Tramps ir paudis bažas, ka attīstības palēnināšana varētu ļaut Ķīnai apsteigt ASV šajā jomā. Viņa galvenais zinātnes padomnieks Deivids Sakss iepriekš brīdinājis, ka Ķīna maz ticams pievienotos globālam nolīgumam par tehnoloģijas tempa ierobežošanu. Hugging Face līdzdibinātājs Tomass Vulfs pauda šaubas, vai ASV var veidot globālu sadarbību, vienlaikus atklāti tiecoties saglabāt savu pārsvaru.

Patlaban ASV ierobežo modernu mikroshēmu eksportu uz Ķīnu, lai kavētu tās AI attīstību, taču šīs nedēļas nogales sarunās eksporta ierobežojumi netika apspriesti — tikšanās, kurā skarti arī tirdzniecības jautājumi, notika pirms Ķīnas prezidenta Sji Dzjiņpina vizītes Vašingtonā.