Discord atzīst AI moderācijas kļūdu: vairāk nekā 8000 lietotāju kļūdaini bloķēti par nekaitīgiem attēliem
Discord atzinis, ka AI moderācijas sistēmas kļūdas dēļ pēdējo divu mēnešu laikā kļūdaini bloķēti vairāk nekā 8000 kontu, tostarp par tādiem attēliem kā izklājlapas, šaha galdi un spēļu faktūras. Uzņēmums jau atjauno skartos kontus.
Platforma Discord ir atzinusi, ka tās automatizētās moderācijas sistēmā radusies kļūda, kuras dēļ kopš maija nepamatoti bloķēti vairāk nekā 8000 lietotāju. Problēma skāra kontus, kas augšupielādēja pilnīgi nekaitīgus attēlus – piemēram, izklājlapas, šaha galdus, spēļu tekstūras, kā arī baltus un pelēkus caurspīdīgus fonus. Sistēma šos attēlus kļūdaini atzina par aizliegtu saturu.
Papildus tam nedēļas nogalē pirms kļūdas novēršanas tika bloķēti vēl aptuveni 200 lietotāju. Discord pārstāvji norādīja, ka visi skartie konti pašlaik tiek atjaunoti. Uzņēmums atzina, ka, lai gan automatizētā sistēma ir paredzēta nelikumīga materiāla atklāšanai, tā dažkārt rada viltus pozitīvus rezultātus. Parasti pirms bloķēšanas saturu pārskata cilvēks – moderators, taču kļūdas dēļ sistēma nekavējoties veica kontu bloķēšanu.
"Mēs strādājam pie labākiem aizsardzības mehānismiem, lai tas neatkārtotos," paziņoja Discord. Sociālajos tīklos X un Reddit lietotāji sūdzējās, ka tikuši pastāvīgi bloķēti tikai tāpēc, ka augšupielādēja attēlus ar kvadrātveida režģu rakstiem. Daži izteica pieņēmumu, ka Discord AI moderācija kļuvusi pārāk jutīga pret režģveida rakstiem, jo tos iepriekš izmantoja, lai slēptu nepiemērotu saturu no automātiskās atklāšanas.
Cietušie lietotāji pauda neapmierinātību, uzsverot, ka nepamatota pastāvīga bloķēšana rada nopietnas sekas, īpaši tiem, kuri Discord izmanto darbam, spēlēm vai sociāliem sakariem. "Zaudēt Discord kontu kaut kā tik netaisnīga dēļ var būt ārkārtīgi postoši un skart miljoniem lietotāju katru dienu. Tas ir jāaptur," rakstīja viens X lietotājs.
Discord nav vienīgā platforma, kas saskaras ar problēmām automatizētās moderācijas dēļ. Pagājušajā gadā Instagram un Facebook grupu lietotāji ziņoja par masveida kontu bloķēšanu bez skaidra iemesla, un Tumblr lietotāji sūdzējās par neskaidriem bloķēšanas iemesliem.
