Anthropic atklāj un aptur AI izmantošanu slepenai izspiegošanai Ķīnā, Irānā un Rietumāfrikā
AI kompānija Anthropic paziņojusi, ka laikā no janvāra līdz jūlijam atklāta un pārtraukta vairāku valstu atbalstītu izspiegošanas operāciju darbība, kurās izmantoti tās mākslīgā intelekta rīki. Uzņēmums brīdina, ka valstis arvien biežāk izmanto AI, lai izsekotu disidentiem un etniskajām minoritātēm.
Mākslīgā intelekta uzņēmums Anthropic ceturtdien informēja, ka pusgada laikā ir identificējis un likvidējis vairākus gadījumus, kad tā AI modeļi tikuši izmantoti valstiskā mērogā organizētai spiegošanai. Kompānijas publicētajā ziņojumā par tās tehnoloģiju nepareizu izmantošanu norādīts, ka attiecīgās darbības fiksētas laikā no janvāra līdz jūlijam un to izcelsme meklējama Ķīnā, Irānā un Rietumāfrikā.
Ziņojumā teikts, ka uzbrukumu mērķauditorija sakrīt ar grupām, kuras minētie režīmi vēsturiski uzraudzījuši — Honkongas demokrātijas atbalstītājus, Tibetas un Falun Gong kopienas Āzijā, kā arī Irānas minoritātes un ārvalstīs dzīvojošos Irānas režīma pretiniekus. Vienā gadījumā Irānas puses pārstāvji izstrādājuši metodi, kā identificēt personas pēc to sociālo tīklu kontiem. Citā gadījumā Mali valsts drošības iestāžu piesaistīts darbuzņēmējs izmantojis Anthropic AI modeli Claude, lai izveidotu programmatūru izlūkdatu vākšanai. Ziņojumā uzsvērts, ka AI arvien vairāk aizstāj inženieru darbaspēku šādu sistēmu izstrādē.
Bez izspiegošanas gadījumiem Anthropic apturējusi arī mēģinājumus izstrādāt ieročus, veikt apšaubāmu bioloģisko izpēti un organizēt krāpnieciskas iepazīšanās shēmas.
Apsūdzības pret Ķīnas AI uzņēmumiem
Anthropic apgalvo, ka Ķīnas kompānijas Moonshot un Deepseek slepeni izmantojušas Claude, lai ģenerētu atbildes saviem lietotājiem, vienlaikus izmantojot šos datus, lai apmācītu savus modeļus — procesu, kas nozarē zināms kā "distilēšana". Ziņojumā minēts, ka desmit dienu laikā Moonshot pāradresējusi Anthropic gandrīz 300 000 lietotāju pieprasījumu, izmantojot tīklu ar 5380 krāpnieciskiem kontiem, no kuriem lielākā daļa reģistrēti kā atrodas Singapūrā un Japānā. Daļa šo datu saturēja sensitīvu lietotāju informāciju, kas varētu būt pretrunā ar privātuma noteikumiem. Anthropic norāda, ka nezina, vai Moonshot informējusi savus klientus par datu pāradresēšanu trešajai pusei. Līdzīgas metodes izmantojusi arī Deepseek.
Attiecībā uz bloķēto bioloģisko izpēti Anthropic norādīja, ka iesaistīto personu nodomi nav bijuši skaidri noteikti, un tā atturējusies šos zinātniekus identificēt, lai nepakļautu tos riskam. Pētniecība skārusi čikungunjas vīrusu, ļoti patogēnu putnu gripas celmu, vīrusu saimi, kas ietver baku un mpox vīrusus, kā arī dažādus toksīnus un indes.
