Anthropic atklāj: čatbots "Claude" izmantots Krievijas kara vajadzībām un propagandai
Uzņēmums "Anthropic" ziņojumā atklājis, ka ar Krieviju saistīti grupējumi tā mākslīgā intelekta rīku "Claude" izmantojuši kiberuzbrukumiem Ukrainai, propagandas veidošanai un droniem paredzētas programmatūras izstrādei. Visus identificētos gadījumus uzņēmums esot bloķējis.
Mākslīgā intelekta izstrādātājs "Anthropic" savā jaunākajā ziņojumā atklājis vairākus gadījumus, kad tā izstrādāto čatbotu "Claude" ar Krieviju saistīti grupējumi izmantojuši ļaunprātīgiem mērķiem.
Kiberuzbrukumi Ukrainas iestādēm
Viens no nopietnākajiem atklātajiem gadījumiem saistīts ar hakeru grupējumu, kas ar "Claude" palīdzību automatizējis kiberuzbrukumus vairāk nekā 20 organizācijām, galvenokārt Ukrainā. Uzbrukumi vērsti pret valsts, aizsardzības un izlūkošanas iestādēm, kā arī militāro dronu tehnoloģiju piegādātājiem. Čatbots izmantots ļaunprogrammatūras un pikšķerēšanas rīku izstrādei, kā arī informācijas iegūšanai no uzlauztām sistēmām.
Propagandas veidošana vairākās valstīs
"Claude" izmantots arī Krievijai labvēlīgas propagandas sagatavošanā. Centrālāfrikas Republikā ar tā palīdzību gatavots saturs radiostacijai, kas saistīta ar savulaik Kremļa atbalstīto grupējumu "Wagner". Moldovā bijušais Krievijas valsts medija "Sputnik" reģionālais vadītājs čatbotu izmantojis, lai ziņas un aptauju datus pielāgotu prokremliskiem vēstījumiem.
Autonomu droņu izstrāde
Īpaši satraucošs ir gadījums, kad ar Krieviju saistīts grupējums rīku "Claude Code" izmantojis programmatūras izstrādei kamikadzes droniem, tostarp autonomai mērķu noteikšanas sistēmai. Modeļi apmācīti, izmantojot Ukrainas kara laikā iegūtus videomateriālus, mērķim izveidojot pilnībā autonomu FPV kamikadzes dronu spietu.
Piekļuve, apejot ierobežojumus
"Claude" Krievijā oficiāli nav pieejams, taču iesaistītie lietotāji piekļuvi ieguvuši, izmantojot virtuālos privātos tīklus un citus serverus. "Anthropic" paziņojis, ka visus ziņojumā minētos ļaunprātīgās izmantošanas gadījumus ir bloķējis, iegūto informāciju izmantojis savu drošības sistēmu pilnveidošanai un to nodevis arī valsts iestādēm un nozares partneriem.
