Anthropic atklāj plašas Ķīnas uzņēmumu kampaņas Claude zināšanu izgūšanai
Anthropic ziņo par piecām liela mēroga distilācijas kampaņām, kurās Ķīnas uzņēmumi mēģinājuši izgūt Claude modeļu spējas, kopumā fiksējot gandrīz 200 miljonus aizdomīgu mijiedarbību. Lielākā kampaņa saistīta ar Alibaba, bet cita — ar Moonshot AI, kas, iespējams, apkalpojusi arī Ķīnas militāros pieprasījumus.
Uzņēmums Anthropic ceturtdien publicēja ziņojumu, kurā aprakstītas ilgstošas un aizvien sarežģītākas distilācijas kampaņas, ko īsteno Ķīnā bāzēti mākslīgā intelekta uzņēmumi. Ziņojumā norādīts, ka pēdējo mēnešu laikā nesankcionētas laboratorijas izstrādājušas metodes, lai apietu Anthropic aizsardzības mehānismus un iegūtu Claude modeļu vērtīgākās spējas — tostarp agentiskās funkcijas, rīku lietošanu, programmēšanu, datu analīzi un loģisko spriešanu.
Anthropic par distilācijas uzbrukumiem publiski runāja jau februārī, tolaik minot konkrētas laboratorijas. Līdzīgu aktivitāti iepriekš fiksējis arī OpenAI, to saistot ar uzņēmumu DeepSeek. Tomēr jaunajā ziņojumā aprakstītās kampaņas esot gan lielākas, gan agresīvākas — kopumā konstatēti gandrīz 200 miljoni mijiedarbību, kas attiecināmas uz piecām atsevišķām kampaņām.
Kā darbojas distilācija
Distilācijas uzbrukumu mērķis ir izgūt modeļa iekšējo spriešanas jeb "domāšanas" ķēdi, ko pēc tam var izmantot mazāka modeļa apmācīšanai ar uzraudzītu pielāgošanu. Anthropic parasti lietotājiem nerāda pilnu iekšējo spriešanas procesu, bet gan tā apkopotu versiju. Tomēr uzbrucēji atraduši veidus, kā panākt, lai modelis atklāj savu domāšanas procesu tiešā veidā — piemēram, formulējot pieprasījumu kā tulkošanas uzdevumu, lūdzot "iepriekšējo darba atmiņu" pārtulkot japāņu valodā.
Alibaba un Moonshot AI kampaņas
Lielāko daļu konstatēto mēģinājumu Anthropic saista ar kampaņu, ko tas attiecina uz Alibaba — pēc uzņēmuma teiktā, tā ir vērienīgākā vairumtirdzniecības tipa distilācijas kampaņa, kāda jebkad novērota. No maija līdz jūlijam fiksēti 151 miljons mijiedarbību, atsevišķās dienās sasniedzot gandrīz trīs miljonus pieprasījumu. Tie tika sadalīti pa 3500 kontiem, taču visi izmantoja vienu un to pašu fiksēto uzvedni, kas ļāva tos saistīt ar vienotu centienu radīt apmācības materiālu Alibaba "Qwen" modeļu saimei.
Cita kampaņa, kas attiecināta uz Moonshot AI — modeļa "Kimi" izstrādātāju —, šķietami novirzījusi pieprasījumus tieši no Ķīnas militārajām struktūrām. Viens no pieprasījumiem lūdzis Claude izvērtēt novērošanas kameru materiālu, lai noteiktu, vai persona uzvedas "neparasti". Desmit dienu periodā ap 300 000 pieprasījumu tika novirzīti caur 5000 kontu tīklu, galvenokārt vēršoties pie Anthropic Opus modeļa.
