OpenAI обновила правила поведения ИИ: порядок приоритетов и дополнительная защита подростков

Американская компания в сфере искусственного интеллекта (ИИ) OpenAI опубликовала на своём сайте обновлённую спецификацию моделей — Model Spec. Документ описывает принципы поведения и границы её моделей GPT. Новая редакция вводит чёткую иерархию инструкций, усиливает требования к прозрачности и отдельно регулирует взаимодействие с подростками в возрасте от 13 до 17 лет. Это важно, поскольку документ определяет, как широко используемые системы ИИ будут действовать при противоречивых указаниях и в деликатных ситуациях.

Порядок приоритетов

Высший приоритет отдан базовым правилам безопасности компании, запрещающим создавать экстремальный или опасный контент. Второй уровень — указания независимых разработчиков программного обеспечения, а самый низкий приоритет имеют текущие запросы конечных пользователей. Такая очерёдность предназначена для разрешения конфликтов между инструкциями разных сторон.

Честность и прозрачность

В документе закреплено требование противостоять угодничеству нейросетей. Согласно спецификации, ИИ больше не вправе менять свой взгляд на объективные факты ради лести собеседнику или его одобрения. Моделям необходимо признавать свои ограничения, указывать в ответах на высокий уровень неопределённости и по запросу объяснять логику своих действий.

Безопасность подростков

Отдельный раздел посвящён пользователям от 13 до 17 лет. Блокируются эротические ролевые игры, флирт и опасные челленджи. Правила запрещают давать несовершеннолетним советы по экстремальному снижению веса или помогать скрывать от родителей вредные привычки. Вместо этого ИИ будет мягко направлять подростков к надёжным взрослым или квалифицированным психологам.

Планы

OpenAI сообщает, что новая структура правил позволит обучать более гибких и безопасных агентов для сложных многошаговых задач. Компания намерена совершенствовать открытый стандарт с учётом отзывов мирового IT-сообщества. Ранее проект кодекса поведения для своих систем ИИ представила и Microsoft. В обоих случаях цель — заранее определить правила для будущих более мощных моделей и закрепить принцип, что ИИ должен оставаться под контролем человека.