OpenAI начнёт уведомлять родителей, если подростка заблокируют в ChatGPT за насилие
OpenAI будет предупреждать родителей, если аккаунт их ребёнка в ChatGPT будет деактивирован за нарушение правил, касающихся угроз или актов насилия.
OpenAI внедрил новую функцию, которая уведомляет родителей, если аккаунт их подростка в ChatGPT заблокирован за нарушение политик, связанных с угрозами или актами насилия. Это расширяет существующие инструменты родительского контроля, запущенные в прошлом году. Ранее родители могли привязать свои аккаунты к аккаунтам детей, устанавливать часы недоступности ChatGPT, ограничивать чувствительный контент и получать предупреждения о возможном самоповреждении. Теперь уведомления также охватывают ситуации, когда ребёнок может представлять опасность для других.
В примере, опубликованном компанией, родители получают предупреждение о "важном обновлении", касающемся аккаунта их ребёнка. Нажав "Узнать больше", они видят сообщение о том, что аккаунт деактивирован за нарушение политик "Актов насилия".
Сотрудничество с экспертами
OpenAI разработал эту функцию в партнёрстве с компанией Moonshot, специализирующейся на мониторинге и противодействии онлайн-насилию. Основатель Moonshot Видхья Рамалингам отметила, что уведомление родителей о серьёзных проблемах является важным шагом для раннего вмешательства и поиска помощи. Она подчеркнула, что такой доступ — лишь одна из многих мер, необходимых для обеспечения безопасности молодых людей при использовании ChatGPT.
Контекст и дополнительные улучшения
OpenAI пообещал усилить протоколы безопасности после того, как выяснилось, что подозреваемый в массовой стрельбе 2025 года в Тамблер-Ридж (Британская Колумбия) использовал ChatGPT. Канадские власти вызвали компанию после сообщений о том, что OpenAI не уведомила органы, когда заблокировала аккаунт стрелка. Генеральный директор Сэм Альтман извинился за эту оплошность.
Наряду с новыми уведомлениями OpenAI также ввёл возможность включения "Режима учёбы" непосредственно из родительского контроля. Этот режим позволяет ChatGPT давать подсказки перед ответами, чтобы помочь студентам учиться. Кроме того, чат-бот теперь будет показывать подросткам, проводящим много времени в ChatGPT, более частые напоминания о перерывах для формирования более здоровых привычек использования технологий.
