Anthropic paskaidro, kā darbosies Claude neredzamie teksta ūdenszīmes
Anthropic atklāja detaļas par sistēmu, kas Claude ģenerētajā tekstā iestrādās neredzamas ūdenszīmes, lai izpildītu ES AI likuma prasības. Risinājums balstīts uz Google izstrādāto atvērtā koda tehnoloģiju SynthID-Text.
Kompānija Anthropic ir sniegusi skaidrojumu par to, kā tās mākslīgā intelekta čatbots Claude nākotnē marķēs ģenerēto tekstu ar neredzamām ūdenszīmēm. Piektdien uzņēmums paziņoja, ka izmanto "versiju" no SynthID-Text pieejas — atvērtā koda tehnoloģijas, ko izstrādājis Google DeepMind un kas rada atklājamus modeļus, balstoties uz vārdu izvēles varbūtībām.
Šī funkcija kopā ar C2PA atbalstu Claude apstrādātiem attēliem tiek ieviesta, lai Anthropic izpildītu Eiropas Savienības AI likuma prasības. Likums nosaka, ka mākslīgi radītam vai manipulētam audio, attēlu, video un teksta saturam jābūt aprīkotam ar mašīnlasāmām atzīmēm, kas ļauj to atpazīt kā mākslīgā intelekta radītu. Anthropic apgalvo, ka teksta ūdenszīmes nepadarīs Claude lietošanu dārgāku un nekādi neietekmēs izvades kvalitāti vai saturu.
Kā darbojas tehnoloģija
Anthropic skaidro principu ar piemēru — teikumā "Šodien laiks bija auksts un..." nākamais vārds visdrīzāk nebūs kaut kas nesaistīts, taču vairāki līdzīgi vārdi, piemēram, "apmācies" vai "pelēks", ir gandrīz vienlīdz piemēroti. Šādos gadījumos, kad izvēle būtībā neietekmē teikuma nozīmi, parasti izšķir nejaušs skaitlis. Ūdenszīmju sistēma izmanto tieši šādas zemas nozīmes izvēles, kas tekstā atkārtojas daudzkārt, lai izveidotu modeli, kas lasītājam nav pamanāms, taču to var atklāt ikviens, kam ir attiecīgā atslēga. Nejaušības avots šajā gadījumā tiek aizstāts — vārda izvēli nosaka atslēga kopā ar iepriekšējiem vārdiem, nevis nejaušs ģenerators.
Anthropic norāda, ka ES pārredzamības prasības skars arī citus lielos AI izstrādātājus, tāpēc Claude nebūs vienīgais modelis ar šādu marķējumu. Google čatbots Gemini SynthID Text risinājumu izmanto jau kopš 2024. gada, savukārt OpenAI savā ES AI likuma atbilstības plānā vēl nav detalizēti aprakstījis teksta ūdenszīmju ieviešanu ChatGPT, lai gan uz to attieksies tie paši noteikumi.
