Google SynthID sistēma palīdz atmaskot viltotu Makkonela attēlu
Google izstrādātā dziļviltojumu noteikšanas sistēma SynthID tika izmantota, lai atklātu AI radītu viltotu senatora Mīča Makkonela attēlu, kas izplatījās sociālajos tīklos.
Google SynthID sistēma, kas paredzēta mākslīgā intelekta radītu attēlu atpazīšanai, izmantota, lai atmaskotu augsta līmeņa viltojumu. Šīs nedēļas sākumā tiešsaistē izplatījās attēls, kurā Kentuki senators Mīčs Makkonels it kā bija redzams slimnīcas gultā, pieslēgts caurulītēm un smagā stāvoklī. Fotogrāfija tika plaši izplatīta Reddit un X platformās, taču jau trešdien faktu pārbaudes vietne Snopes to atzina par viltotu, norādot, ka attēlā ir SynthID ūdenszīme, kas identificē AI ģenerētu saturu.
Makkonela veselība ir bijusi plašu spekulāciju objekts kopš viņa ievietošanas slimnīcā pēc neatliekamās palīdzības izsaukuma 14. jūnijā. Kopš tā laika senators lielākoties nav bijis redzams sabiedrībā, radot bažas par viņa veselības stāvokli. Tomēr šajā gadījumā pierādījumi izrādījās pilnībā safabricēti.
SynthID tika palaists Google I/O izstrādātāju konferencē 2025. gadā. Tas darbojas kā neredzams paraksts, kas ir redzams SynthID algoritmiem, bet nemanāms nejaušam skatītājam. Tā kā paraksts ir iebūvēts pašā attēlā, tas saglabājas pat tad, ja attēls tiek ekrānuzņēmumā pārnests starp platformām, kā tas notika ar Makkonela attēlu. Galvenais SynthID ierobežojums ir tas, ka to var izmantot tikai tad, ja attēlu ģenerēšanas rīks aktīvi piedalās programmā.
Gemini modeļi ir iekļāvuši ūdenszīmi kopš programmas palaišanas 2025. gadā. OpenAI pievienojās 2026. gada maijā kā daļu no plašākiem centieniem apkarot ļaunprātīgu attēlu ģenerēšanu. Anthropic programmā nepiedalās. Lietotāji var pārbaudīt, vai attēlos ir ūdenszīme, jautājot Gemini modelim vai augšupielādējot tos OpenAI publiskajā attēlu pārbaudes rīkā.
