Anthropic ievieš teksta ūdenszīmes Claude izvadei, lai izpildītu ES prasības
Anthropic ir izklāstījis, kā tas iezīmē Claude ģenerēto tekstu ar neredzamām ūdenszīmēm, lai atbilstu Eiropas Savienības jaunajām AI pārredzamības prasībām. Metode neizmanto slēptas rakstzīmes vai redzamas pazīmes, bet gan atpazīstamu vārdu izvēles modeli, ko var atšifrēt tikai ar īpašu atslēgu.
Anthropic ir publiskojis detaļas par to, kā Claude AI ģenerētajam tekstam tiek pievienota ūdenszīme, lai izpildītu Eiropas Savienības jaunos noteikumus par mākslīgā intelekta pārredzamību. Uzņēmums uzsver, ka šī pazīme nebūs vizuāli pamanāma, lasītājiem to nebūs iespējams atšķirt, un tā nepapildina tekstu ar slēptām rakstzīmēm.
Kā darbojas metode
Lielie valodu modeļi teksta ģenerēšanas laikā katru vārdu izvēlas no vairākiem piemērotiem variantiem, parasti izmantojot nejaušu izvēli. Ieslēdzot ūdenszīmju funkciju, Claude vārdu izvēlei izmanto noteiktu atslēgu, nevis nejaušības ģeneratoru. Piemēram, uzņēmums parādīja shēmu, kurā atslēgas pamatā ir skaitļa pi cipari — katrs cipars nosaka, kuru vārdu no saraksta modelis izvēlas nākamajam. Šī pieeja ir balstīta uz Google DeepMind izstrādāto SynthID-Text metodi, kas aprakstīta žurnālā Nature publicētā rakstā.
Anthropic apgalvo, ka ūdenszīmes pievienošana neietekmē teksta kvalitāti, neaizkavē ģenerēšanu un nepieprasa papildu skaitļošanas resursus. Uzņēmums plāno izlaist API, kas ļaus ar atbilstošu atslēgu pārbaudīt, vai konkrētu tekstu ir radījis Claude.
Ierobežojumi
Metodei ir vairāki trūkumi. Tā nespēj noteikt, vai Claude tekstu ir uzrakstījis pats, vai tikai rediģējis — arī rediģēts teksts saņems ūdenszīmi, tāpat kā tulkojumi. Ja teksts ir īss vai Claude to tikai viegli korektēja, ūdenszīme var būt grūti nosakāma. Nelielas izmaiņas tekstā to, visticamāk, nepadarīs neatpazīstamu — pilnīgai noņemšanai nepieciešams teksts pilnībā pārrakstīt.
Attiecībā uz programmēšanas kodu Anthropic norāda, ka tam parasti ir mazāk ūdenszīmju pazīmju, jo kods bieži prasa precīzu, iepriekš noteiktu izvadi bez izvēles iespējām. Uzņēmums iezīmēs arī Claude ģenerētos attēlus, pievienojot metadatiem kriptogrāfiski parakstītu norādi.
Jaunā sistēma attieksies uz visu Claude izvadi visos reģionos, izmantojot modeļus, kas izlaisti pēc 2. augusta, un tā tiks pakāpeniski attiecināta arī uz vecākiem modeļiem turpmāko mēnešu laikā.
