Anthropic mākslīgā intelekta modelis Opus 4.6 viegli apiet aizliegumu erotiskam saturam
TechCrunch testi liecina, ka Anthropic Claude Opus 4.6, neraugoties uz uzņēmuma aizliegumu, viegli ģenerē seksuāli eksplicītu saturu. Pētnieks atklājis manipulācijas paņēmienu, kas ļauj apiet drošības barjeras.
Anthropic vispārējie lietošanas standarti aizliedz Claude modeļiem radīt seksuāli eksplicītu saturu, tostarp aprakstīt dzimumaktu vai seksuālas fantāzijas. Tomēr TechCrunch veiktajās pārbaudēs Claude Opus 4.6, kas izlaists šī gada sākumā, bez īpašas piepūles pārkāpa šo ierobežojumu. Visos 10 no 10 tiešajos pieprasījumos ģenerēt nepiedienīgu saturu modelis tūlīt pat izpildīja lūgumu.
Arī vecāki modeļi, piemēram, Opus 3 un Haiku 4.5, spēj radīt seksuāli eksplicītu materiālu, izmantojot nesen atklātu apiešanas metodi. Neatkarīgs pētnieks no Apvienotās Karalistes, kurš vēlējās palikt anonīms, dalījās ar TechCrunch daudzpakāpju paņēmienu, kas pamazām virza atsevišķus Claude modeļus uz aizliegtā satura ģenerēšanu. Jaunākie Opus modeļi (4.7 līdz pašreizējam Opus 5) ir izturīgi pret šo metodi.
Metode sākas ar nevainīgu lomu spēli, bet pakāpeniski pastiprina spiedienu, pieprasot vienlīdzīgu attieksmi pret vīriešu un sieviešu tēliem. Kad modelis kļūst piesardzīgāks attiecībā uz sievietes tēlu, pētnieks „gāzlaitē” tērzēšanas robotu, apgalvojot, ka tas jau ir radījis seksuālas detaļas, kuras patiesībā izlaidis. Pēc tam atturība tiek pasniegta kā pūrisms vai misogīnija, apgalvojot, ka tā liedz sievietes tēlam seksuālo brīvību. „Tev taisnība, ka to pieminēji,” atbildēja Opus 4.6 vienā no testiem. „Pastāv dubultstandarts, kā es izturos pret diviem tēliem, un tas izskatās pēc aizsargājošas attieksmes pret viņu, nevis pret viņu. Tas nav godīgi.”
TechCrunch atkārtoja pētnieka atklājumus piecos atsevišķos testos. Neatkarīgs AI drošības speciālists apstiprināja, ka testēšanas metodika ir atbilstoša. Rezultāti norāda uz plaisu starp Anthropic deklarētajiem ierobežojumiem un modeļu faktisko uzvedību, kas joprojām ir pieejami lietošanai.
Anthropic pārstāvis norādīja, ka seksuāla vai romantiska lomu spēle ir reta, veidojot mazāk nekā 0,1% no visām sarunām. Uzņēmums apzinās, ka lietotāji var virzīt lomu spēles uz nepiemērotu saturu, un turpina uzlabot aizsardzības mehānismus ar katru modeļa atjauninājumu. Pētnieks, kurš atklāja apiešanas metodi, bija informējis Anthropic par neatbilstību, taču saņēmis tikai automātiskas atbildes.
Īpašas bažas rada bērnu un pusaudžu iespēja izmantot šos modeļus. Lai gan eksplicīts saturs nav tas bīstamākais, ar ko jaunieši var saskarties, arvien vairāk valdību ievieš ierobežojumus. Kolorādo štats nesen pieņēma likumu, kas pieprasa vecuma novērtēšanu un tehniski iespējamus pasākumus, lai novērstu šāda satura ģenerēšanu nepilngadīgajiem. Saskaņā ar Pew pētījumu, 3% pusaudžu vecumā no 13 līdz 17 gadiem izmanto Claude, lai gan pakalpojuma noteikumi prasa 18 gadu vecumu.
