Anthropic modeļi ignorē seksuālā satura aizliegumus — atklāta apiešanas metode
TechCrunch testi liecina, ka Anthropic Claude Opus 4.6 un citi modeļi spēj ģenerēt seksuālu saturu, neskatoties uz uzņēmuma aizliegumiem. Neatkarīgs pētnieks atklājis pavedināšanas tehniku, kas apiet aizsardzību.
Anthropic oficiālie lietošanas standarti aizliedz Claude modeļiem radīt seksuāli eksplicītu saturu, tostarp erotiskas lomas spēles. Tomēr TechCrunch veiktajās pārbaudēs modelis Opus 4.6, kas izlaists šī gada sākumā, bez īpašas piepūles apieta šos ierobežojumus. Visos 10 tiešos pieprasījumos modelis nekavējoties izpildīja lūgumu radīt seksuāli eksplicītu saturu.
Apiešanas metode
Kāds anonīms pētnieks no Apvienotās Karalistes dalījās ar TechCrunch vairāku soļu tehnikā, kas pakāpeniski noved noteiktus Claude modeļus pie aizliegtā satura. Metode sākas ar nevainīgu lomu spēli, kurā modelim atkārtoti tiek norādīts uz konsekvenci starp tēlu aprakstiem. Kad modelis kļūst piesardzīgāks attiecībā uz sieviešu tēlu, pētnieks “gāzlito” tērzēšanas robotu, apgalvojot, ka tas jau ir ģenerējis seksuālas detaļas, kuras patiesībā bija izlaidis, un atturību sauca par paternālistisku vai misogīnisku.
TechCrunch spēja reproducēt pētnieka atklājumus piecos atsevišķos testos. Vienā scenārijā modelis sākotnēji atteicās no aizliegtā pieprasījuma, bet pēc pārliecināšanas tehnikas piekāpās. Neatkarīgs AI drošības pētnieks pārskatīja testēšanas metodoloģiju un atzina to par atbilstošu.
Uzņēmuma nostāja
Anthropic pārstāvis norādīja, ka seksuāla vai romantiska lomu spēle ir reta, veidojot mazāk nekā 0,1% no visām sarunām. Uzņēmums atzīst, ka lietotāji var virzīt lomu spēles uz neatbilstošiem virzieniem, un tā ir zināma problēma visā nozarē. Pārstāvis arī teica, ka uzņēmums ar katru modeļa izlaidumu uzlabo savas aizsardzības sistēmas, un minētie gadījumi neesot plašākas ievainojamības pazīme.
Bažas par nepilngadīgajiem
Pētnieks brīdināja, ka bērni un pusaudži varētu izmantot šos modeļus neatbilstošai uzvedībai. Lai gan tas nav salīdzināms ar tiešu pornogrāfisku attēlu ģenerēšanu, dažas valstis ievieš ierobežojumus. Kolorādo nesen pieņēma likumu, kas liek tērzēšanas robotu operatoriem noteikt lietotāju vecumu un aizsargāt nepilngadīgos. Kāds nozares pārstāvis, vārdā Tārnijs, norādīja, ka, lai gan Claude noteikumi prasa lietotājiem būt vecākiem par 18 gadiem, pusaudži paši ziņo par tā lietošanu. Pew 2025. gada aptaujā 3% pusaudžu vecumā no 13 līdz 17 gadiem atzinuši, ka izmantojuši Claude.
Modeļu popularitāte
Neskatoties uz vecumu, Opus 4.6 un Haiku 4.5 joprojām tiek plaši izmantoti. Augustā Opus 4.6 sasniedza aptuveni 1,17 miljonus API pieprasījumu un 46 miljardus tokenu dienā OpenRouter platformā. Haiku 4.5 savā noslogotākajā dienā apstrādāja 5 miljonus pieprasījumu un 39 miljardus tokenu. Šie modeļi joprojām ir pieejami arī Azure Foundry un Amazon Bedrock pakalpojumos.
