OpenAI выпустила версию ChatGPT для подростков с усиленными мерами безопасности
OpenAI представила ChatGPT for Teens — версию чат-бота с дополнительными функциями безопасности и обучения, после серии исков, связывающих сервис с проблемами психического здоровья у подростков.
Компания OpenAI в понедельник объявила о запуске ChatGPT for Teens — версии чат-бота, разработанной специально для подростков. Решение принято на фоне ряда судебных исков, в которых компанию обвиняют в недостаточных мерах безопасности, что, по утверждению истцов, способствовало случаям суицида среди подростков и другим проблемам с психическим здоровьем.
Новые обучающие инструменты
Одна из ключевых функций нового продукта — Study Mode (учебный режим), призванный решить проблему использования ChatGPT для списывания в школе. Вместо готовых ответов этот режим предлагает подросткам наводящие вопросы и пошаговую поддержку, помогая им самостоятельно разобраться в материале.
Если система определяет, что подросток пытается использовать чат-бот для списывания, а не для обучения, приложение будет показывать напоминания о домашнем задании и предлагать перейти в Study Mode. Также доступны тесты и визуализация учебного материала. Родители или опекуны смогут настроить включение Study Mode по умолчанию.
Остаются вопросы об обходе ограничений
Пока неясно, насколько легко подросткам удастся обойти новые ограничения, если они не захотят их соблюдать — подростки традиционно проявляют изобретательность в обходе родительского контроля и других цифровых барьеров. Насколько эффективными эти меры окажутся на практике, станет понятно только после более масштабного тестирования продукта.
Защита контента и родительский контроль
В ChatGPT for Teens по умолчанию будут включены возрастные ограничения, призванные снизить воздействие вредного или не соответствующего возрасту контента. Эти меры основаны на принципах OpenAI для пользователей младше 18 лет. Родители смогут использовать уже существующие семейные инструменты и родительский контроль для настройки параметров, получения уведомлений о безопасности и установки «тихих часов».
OpenAI также объявила о партнёрстве с CodeAI, чтобы помочь подросткам лучше понимать искусственный интеллект — как он работает и как им пользоваться. Для школ компания уже предлагает решение ChatGPT for Teachers.
