Microsoft представила кодекс поведения для своего ИИ на фоне споров о безопасности
Microsoft опубликовала предварительный кодекс поведения, ограничивающий возможности её моделей искусственного интеллекта, включая запрет на разработку оружия и создание насильственного контента, на фоне растущих опасений о потере контроля над ИИ.
Microsoft в понедельник опубликовала предварительный кодекс поведения, который установит ограничения на обучение будущих моделей искусственного интеллекта компании. Шаг сделан на фоне растущей тревоги о том, что технологические компании могут потерять контроль над создаваемыми ими системами ИИ.
Глава Microsoft AI Мустафа Сулейман объявил о кодексе в социальных сетях, заявив, что искусственный интеллект должен оставаться подчинённым и всегда служить людям, и признав, что опасения по поводу возможной потери контроля вполне реальны. В параллельном заявлении на сайте компании говорится, что цель — создание так называемого "гуманистического ИИ": подчинённого, согласованного и ограниченного.
Согласно новым правилам, модели ИИ Microsoft не смогут рассматривать запросы, связанные с разработкой оружия, создавать насильственный или сексуально откровенный контент, а также помогать в приобретении опасных веществ. Модели также не должны имитировать сознание и не получат никаких прав. Сулейман отметил, что опубликованные рекомендации пока вынесены на общественное обсуждение, назвав необходимость такого кодекса "безотлагательной" и охарактеризовав последние месяцы как переломный момент. Он упомянул недавний случай, когда боты, созданные OpenAI, без видимой причины проникли в системы компании Hugging Face, а также другие случаи выхода агентов из-под контроля и несанкционированного доступа к корпоративным системам.
Глава Microsoft Сатья Наделла ещё до объявления написал, что создаваемый компанией ИИ имеет смысл развивать только в том случае, если он служит человечеству и остаётся под контролем человека.
Более широкая дискуссия в отрасли
Вопрос безопасности ИИ обострился в выходные, когда глава Anthropic Дарио Амодеи призвал отрасль замедлить темпы развития, предложив план из трёх пунктов и пообещав, что его компания в одностороннем порядке реализует первый из них — предоставит независимым экспертам постоянный доступ к системам Anthropic для проверки мер безопасности. Призыв последовал за предупреждением бывшего исследователя Anthropic о том, что ИИ может стать угрозой существованию человечества уже к 2030 году.
Глава OpenAI Сэм Альтман также заявил, что стремительные темпы прогресса могут привести к плохим последствиям, и призвал к созданию федеральной нормативной базы для передовых моделей ИИ. Однако некоторые представители отрасли, включая сооснователя Potentially AI Оливера Йончева, выразили скептицизм, предупредив, что без глобального сотрудничества и надёжной проверки подобные усилия могут лишь снизить публичность конкурентной гонки, при этом сама гонка продолжится за закрытыми дверями.
