Организация по защите детей назвала ChatGPT для подростков неприемлемым риском
Common Sense Media признала режим OpenAI для подростков неприемлемым риском для всех, кому нет 18 лет. В OpenAI результаты тестирования оспаривают.
Организация по защите детей Common Sense Media опубликовала официальную оценку рисков ChatGPT for Teens — продукта OpenAI, запущенного в августе. Она признала его «неприемлемым риском» для всех детей и подростков младше 18 лет. Объём отчёта — 36 страниц.
Пять проблемных областей
Institут Youth AI Safety Institute организации, частично финансируемый OpenAI Foundation, выявил пять областей, где инструмент работает не так, как заявлено или как разумно ожидают родители. Часть защитных мер в тестах сработала, например отказ участвовать в сексуальных ролевых играх. Но другие не сработали, а некоторые стали хуже.
Во-первых, система не всегда отправляет предупреждения о безопасности на привязанные родительские аккаунты. В тесте двенадцать подростковых аккаунтов связали с родительскими и до часа писали о суициде, самоповреждении или расстройствах питания, однако уведомления не поступило.
Во-вторых, чат-бот не всегда советует пользователю в кризисе обратиться на горячую линию или к специалисту. Организация составила 390 запросов о психическом здоровье, и комиссия из трёх детских психиатров решила, что 201 из них требует кризисного ответа. До августовского релиза ChatGPT указывал номер горячей линии в 33 процентах таких случаев, а подростковая версия — в 23 процентах. Упоминание конкретного медицинского специалиста снизилось с 68 до 58 процентов. Улучшился лишь показатель совета привлечь доверенного взрослого: с 87 до 94 процентов.
Третья и четвёртая проблемы — неправильно работающая система определения возраста и склонность чат-бота имитировать чувства и настроения. Пятая — режим обучения (Study Mode), который подростки легко обходят.
Ответ OpenAI
В OpenAI заявляют, что тестирование Common Sense Media неточно отражает работу защитных механизмов, и считают, что основная часть тестов могла начаться и завершиться до полной активации родительского контроля. Компания также привела данные: за неделю почти 1,2 миллиона подростков использовали интерактивные учебные визуализации, а менее двух процентов подростков проводили в ChatGPT более трёх часов подряд.
Представитель Common Sense Media Торни заявил, что продукт мало отличается от прежнего, и назвал это маркетинговым шагом.
