OpenAI ужесточает ограничения для подростков в вопросах об оружии
Компания OpenAI, разработчик ИИ, ограничит для подростков практическую информацию об оружии и системах безопасности в чат-боте ChatGPT. Более строгие рамки коснутся и всех пользователей при запросах о прошлых массовых нападениях.
Американская компания OpenAI, разрабатывающая системы искусственного интеллекта, объявила об ужесточении ограничений на информацию об оружии, которую подростки могут получить от чат-бота ChatGPT. Ограничения действуют, даже если вопрос выглядит безобидным. Цель, по словам компании, — снизить риск того, что такие сведения будут использованы для содействия насилию.
Что меняется
OpenAI напоминает, что уже действуют правила, не позволяющие ChatGPT помогать совершать насильственные действия или помогать подросткам получать оружие. Теперь для аккаунтов подростков будет ограничена практическая информация об оружии и системах безопасности, которую можно использовать во вред, даже если нет признаков намерения применить насилие.
Подростки по-прежнему смогут обращаться к ChatGPT, чтобы предотвращать насилие или снижать его накал, искать поддержку и связываться с надёжным взрослым.
Границы ужесточаются и для всех пользователей. Это касается прежде всего запросов о реконструкции прошлых массовых нападений, включая данные об использованном оружии и снаряжении и о способах их получения, а также подробных сравнений масштаба ущерба, которые могли бы усилить известность нападавшего.
Предыстория
Новые ограничения будут работать вместе с родительским контролем, введённым OpenAI в прошлом году. Он отправляет родителям уведомление, если связанный аккаунт подростка нарушает правила ChatGPT о насильственных угрозах или насильственных действиях.
Дополнительные меры появились после иска о неправомерной смерти, поданного против OpenAI в прошлом году, и после публичных извинений главы компании Сэма Олтмана за то, что он не сообщил полиции о тревожных записях чатов, связанных со стрельбой в Тамблер-Ридже в этом году.
OpenAI также заявила, что опубликует первый Отчёт о безопасности сообщества в начале 2027 года, а затем будет обновлять его каждые полгода.
