Anthropic atklāj plašas datu iegūšanas kampaņas no Ķīnas AI uzņēmumiem
Anthropic ziņo par piecām liela mēroga kampaņām, kurās Ķīnā bāzēti uzņēmumi, tostarp Alibaba un Moonshot AI, mēģinājuši izmantot Claude modeli savu AI risinājumu apmācībai. Kopumā konstatēti gandrīz 200 miljoni ar to saistītu pieprasījumu.
Anthropic ceturtdien publicētajā ziņojumā vērš uzmanību uz arvien izsmalcinātākiem mēģinājumiem no Ķīnā reģistrētu uzņēmumu puses apiet uzņēmuma drošības pasākumus un iegūt tā Claude modeļa spējas. Ziņojumā norādīts, ka šādas darbības pēdējos mēnešos ir kļuvušas intensīvākas, jo konkurence mākslīgā intelekta jomā saasinās. Skartās jomas ietver Claude spējas veikt patstāvīgus uzdevumus, izmantot dažādus rīkus, rakstīt programmatūras kodu, analizēt datus un veikt loģisku spriešanu.
Anthropic par līdzīgiem gadījumiem runāja jau februārī, tolaik konkrēti nosaucot vairākus uzņēmumus. Arī OpenAI iepriekš ziņojusi par analogām darbībām, tās saistot tieši ar uzņēmumu DeepSeek. Tomēr jaunākajā Anthropic ziņojumā aprakstītās kampaņas ir gan apjomīgākas, gan agresīvākas — kopumā fiksēti aptuveni 200 miljoni ar to saistītu apmaiņas gadījumu, kas attiecināti uz piecām atsevišķām kampaņām.
Kā notiek datu iegūšana
Šāda veida uzbrukumi parasti vērsti uz to, lai iegūtu modeļa iekšējo domāšanas gaitu, kas tiek parādīta, atbildot uz dažādiem jautājumiem. Šo informāciju pēc tam var izmantot, lai ar uzraudzītas pielāgošanas metodi apmācītu mazāku modeli vispārīgas spriešanas prasmēs. Parasti Anthropic lietotājiem nerāda pilnu modeļa domāšanas procesu, bet gan tā apkopotu versiju. Tomēr uzbrucēji atraduši veidus, kā modeli piespiest atklāt domāšanas gaitu tiešā veidā — piemēram, formulējot pieprasījumu kā tulkošanas uzdevumu uz japāņu valodu.
Lielākā kampaņa saistīta ar Alibaba
Lielākā daļa novēroto gadījumu attiecas uz kampaņu, ko Anthropic saista ar Alibaba un raksturo kā apjomīgāko šāda veida darbību, kāda kompānijai jebkad novērota. No maija līdz jūlijam fiksēti 151 miljons ar šo kampaņu saistītu apmaiņas gadījumu, atsevišķās dienās sasniedzot gandrīz trīs miljonus. Pieprasījumi nākuši no 3500 dažādiem kontiem, taču, tā kā tie visi izmantojuši vienu un to pašu fiksētu pieprasījuma formulējumu domāšanas gaitas iegūšanai, Anthropic tos saista ar vienotu centienu radīt apmācības materiālu Alibaba Qwen modeļu saimei.
Cita kampaņa, kas saistīta ar uzņēmumu Moonshot AI, Kimi modeļa izstrādātāju, pēc Anthropic teiktā, šķietami novirzījusi pieprasījumus tieši no Ķīnas militārajām struktūrām — viens no pieprasījumiem lūdzis izvērtēt novērošanas kameru materiālu, lai noteiktu, vai persona uzvedas neparasti. Desmit dienu periodā caur 5000 kontu tīklu Claude nosūtīti gandrīz 300 000 pieprasījumu, galvenokārt vēršoties pie Opus modeļa.
