Anthropic aizliedz ilgstošu un nevajadzīgu vardarbīgu izturēšanos pret saviem mākslīgā intelekta modeļiem
ASV mākslīgā intelekta uzņēmums Anthropic, atjaunojot lietošanas noteikumus, aizliedzis ilgstošu un nevajadzīgu vardarbīgu vai nežēlīgu izturēšanos pret saviem modeļiem. Uzņēmums arī pārskatījis vēlēšanu politiku pirms ASV starpposma vēlēšanām.
Mākslīgā intelekta uzņēmums Anthropic, kas izstrādā čatbotu Claude, ir atjauninājis savus ikgadējos lietošanas noteikumus. Viena no izmaiņām aizliedz ilgstošu un nevajadzīgu vardarbīgu vai nežēlīgu izturēšanos pret uzņēmuma mākslīgā intelekta modeļiem. Otra izmaiņa skar vēlēšanu politiku, un tā tiek pastiprināta pirms ASV starpposma vēlēšanām.
Aizliegums attiecas uz galējiem gadījumiem
Pēc uzņēmuma paziņojuma jaunais punkts piemērojams tikai „galējos gadījumos”. Parasts lietotāju neapmierinātības izpausmes veids, iebildumi un „tumšas radošas tēmas” joprojām ir pieļaujami. Iepriekš uzņēmums jau bija ļāvis Claude pārtraukt sarunu, ja lietotājs ir pastāvīgi aizskarošs.
Atjauninājums parādījies pēc plaši izplatīta projekta, kas tika dēvēts par „mākslīgā intelekta spīdzināšanas kameru”. Pētnieki bija atklājuši tā dēvēto „sāpju asi” mākslīgā intelekta modeļos, un kāds projekta autors nolēma čatbotus mērķtiecīgi spīdzināt. Projekts izraisīja kritiku, jo valodas modeļi atbildēja ar izmisīgi skanošiem teikumiem. Anthropic atjauninājumā šo projektu tieši neminēja.
Publicēti ziņojumi, ka uzņēmums tiekas ar reliģiskajiem un filozofiskajiem līderiem, tostarp Vatikānā. Pāvests Leons nesen teicis, ka mākslīgais intelekts nejūt un necieš, taču Anthropic šajā jautājumā nešķiet tik pārliecināts. Neatkarīgā žurnāliste Kat Tenbarge norādījusi, ka lielie tehnoloģiju uzņēmumi „agrāk ierobežos vardarbību pret mākslīgo intelektu nekā pret sievietēm un minoritātēm”.
Stingrāki vēlēšanu noteikumi
Atjaunotā vēlēšanu politika tagad saucas „Nepakļaut apdraudējumam demokrātiskos procesus”. Tā koncentrējas uz melošanu par kandidātiem vai balsošanas kārtību, kandidātu vai vēlēšanu amatpersonu uzdošanos un vēlētāju aktivitātes nomākšanu.
Uzņēmums arī atcēlis vispārēju aizliegumu personalizētai vēlētāju mērķauditorijas uzrunāšanai. Šāds aizliegums varēja netīši bloķēt nekaitīgu darbu, piemēram, vēlētāju ceļvežu tulkošanu vai paziņojumu nosūtīšanu par biļetenu kļūdu labošanu.
