Meta izstrādā rīku, kas identificē attēlus un video, kas radīti ar tās jaunajiem mākslīgā intelekta modeļiem
Meta ir izstrādājusi tīmekļa rīku, kas ļauj pārbaudīt, vai attēls vai video radīts ar tās jauno attēlu ģenerēšanas modeli Muse Image, izmantojot neredzamus ūdenszīmes.
Meta demonstrējusi jaunu tīmekļa rīku, kas spēj identificēt attēlus un video, kas izveidoti ar tās jaunāko attēlu ģenerēšanas modeli Muse Image. Rīks balstās uz ūdenszīmju tehnoloģiju ar nosaukumu Content Seal, kas ir neredzama un saglabājas pat pēc attēla apgriešanas, saspiešanas, mērogošanas vai ekrānuzņēmuma uzņemšanas.
Content Seal ir Meta patentēts risinājums, lai gan uzņēmums iepriekš ir publicējis atvērtā pirmkoda versijas. Atšķirībā no iepriekšējām Meta AI versijām, kas attēliem pievienoja redzamu logotipu, jaunie modeļi neizmanto vizuālus ūdenszīmju marķējumus. Testos tīmekļa rīks spēja noteikt ūdenszīmes gan pilnībā ar AI radītiem attēliem, gan rediģētām versijām, kā arī ekrānuzņēmumiem.
Pašlaik rīks darbojas tikai ar attēliem, kas radīti vai rediģēti ar Muse Image, bet Meta plāno paplašināt Content Seal arī uz AI ģenerētiem un rediģētiem video. Uzņēmums strādā pie atsevišķa video ģenerēšanas modeļa Muse Video, kas būs pieejams drīzumā.
Tomēr rīkam ir vairāki ierobežojumi. Tas nav savietojams ar citām ūdenszīmju metodēm, piemēram, SynthID vai C2PA Content Credentials. Turklāt tas nevar identificēt attēlus, kas radīti ar vecākām Meta AI versijām, un tam ir ikdienas atlaižu limits – pēc vairāku paraugu augšupielādes tests atzīmēja, ka sasniegts dienas limits.
Interesanti, ka Meta AI lietotne vēl neietver šo noteikšanas funkciju. Kad autore jautāja lietotnes asistentam par attēlu, ko tīmekļa rīks bija identificējis kā AI radītu, tas atbildēja, ka nespēj to noteikt. Iepriekš Meta ir kritizēta par nekonsekventu AI materiālu marķēšanu – Pārraudzības padome pauda bažas, ka uzņēmums savos rīkos neviendabīgi ievieš digitālās ūdenszīmes.
