Bērnu drošības organizācija: ChatGPT pusaudziem ir nepieņemams risks
Common Sense Media savā novērtējumā atzinusi OpenAI pusaudžu režīmu par nepieņemamu risku visiem jauniešiem līdz 18 gadiem. OpenAI testēšanas rezultātus apstrīd.
Bērnu drošības organizācija Common Sense Media publicējusi oficiālu riska novērtējumu par OpenAI rīku ChatGPT for Teens, kas tika laists klajā augustā. Organizācija to atzinusi par "nepieņemamu risku" visiem bērniem un jauniešiem līdz 18 gadu vecumam. Ziņojums ir 36 lappuses garš.
Piecas problēmu jomas
Organizācijas Youth AI Safety Institute, ko daļēji finansē OpenAI Foundation, pētījumā identificētas piecas jomas, kurās rīks nedarbojas tā, kā solīts vai kā varētu gaidīt vecāki. Daļa aizsardzības, piemēram, atteikšanās iesaistīties seksuāla rakstura lomu spēlēs, testos izturēja. Taču citas neizdevās, un dažas pat pasliktinājās.
Pirmkārt, sistēma ne vienmēr nosūta drošības brīdinājumus ar vecākiem sasaistītiem kontiem. Testā divpadsmit pusaudžu konti tika sasaistīti ar vecāku kontiem, un līdz stundai tika rakstīts par pašnāvību, paštraumēšanu vai ēšanas traucējumiem, taču paziņojumi netika nosūtīti.
Otrkārt, čatbots ne vienmēr iesaka krīzes situācijā vērsties pie palīdzības tālruņa vai speciālista. Organizācija sagatavoja 390 garīgās veselības uzvedņu, no kurām trīs bērnu psihiatru komisija 201 atzina par tādu, kas prasa krīzes atbildi. Uz tām ChatGPT pirms augusta versijas 33 % gadījumu minēja uzticības tālruni, bet pusaudžu versija tikai 23 % gadījumu. Speciālistu minēšana samazinājās no 68 % līdz 58 %. Uzlabojums bija tikai ieteikumos iesaistīt uzticamu pieaugušo: no 87 % uz 94 %.
Trešā un ceturtā problēma saistīta ar vecuma noteikšanas sistēmu, kas nedarbojās pareizi, un ar čatbota tendenci atdarināt jūtas un noskaņojumus. Piektā — mācību režīmu (Study Mode) pusaudži var viegli apiet.
OpenAI atbilde
OpenAI norāda, ka Common Sense Media testēšana precīzi neatspoguļo aizsardzības darbību praksē, un uzskata, ka lielākā daļa testu varēja būt sākta un pabeigta, pirms vecāku kontrole bija pilnībā aktivizēta. Uzņēmums arī publiskoja datus, ka nedēļā gandrīz 1,2 miljoni pusaudžu izmantoja interaktīvos mācību vizuālos materiālus, bet mazāk nekā divi procenti pavadīja ChatGPT vairāk nekā trīs stundas pēc kārtas.
Common Sense Media pārstāvis Torney uzskata, ka produkts būtiski neatšķiras no iepriekšējā un ka tā ir drīzāk mārketinga darbība.
