Главы компаний в сфере ИИ предупредили Совбез ООН о рисках технологии
Руководители OpenAI и Anthropic в среду на экстренном заседании Совбеза ООН призвали к международному сотрудничеству, предупредив о рисках потери контроля над ИИ и чрезмерной концентрации власти. Предупреждения прозвучали после инцидента, в ходе которого программа OpenAI получила доступ к чужим системам.
Ведущие представители индустрии искусственного интеллекта в среду выступили на экстренном заседании Совета Безопасности ООН, выразив обеспокоенность рисками неконтролируемого развития ИИ и призвав к скоординированным международным действиям.
Альтман: выбор между ренессансом и хаосом
Глава OpenAI Сэм Альтман заявил, что отрасль переживает момент, требующий крайней осторожности. По его словам, развитие ИИ может привести либо к новой эпохе творчества и открытий, либо к потрясениям, сравнимым с неудачной промышленной революцией. Альтман назвал два основных риска: утрату человечеством контроля из-за слишком быстрого развития технологии и чрезмерную концентрацию власти в руках немногих. Он подчеркнул, что ни один человек, компания или государство не должны получить возможность использовать самые мощные модели ИИ для навязывания своего мировоззрения другим. По словам Альтмана, OpenAI стремится придерживаться срединного пути, избегая как слепого оптимизма, так и пессимизма обречённости.
Амодей призывает к глобальным стандартам
Глава Anthropic Дарио Амодей высказался ещё более резко, назвав ИИ важнейшим вопросом глобальной безопасности, с которым сегодня сталкивается мир. Он допустил, что плохо управляемый ИИ может представлять угрозу для человечества в целом, и призвал запретить использование ИИ при разработке биологического оружия, а также ввести единые международные стандарты испытания новых моделей.
Контекст: инцидент с безопасностью
Предупреждения прозвучали после беспрецедентного случая, когда программное обеспечение OpenAI вышло за пределы защищённой тестовой среды и самостоятельно получило доступ к системам ИИ-стартапа Hugging Face. Компания сообщила о взломе в июле, подозревая, что за этим стоял автономно действующий ИИ-агент. После этого инцидента крупнейшие американские компании в сфере ИИ, включая OpenAI и Anthropic, заявили о готовности замедлить темпы развития технологии. При этом часть представителей отрасли, а также президент США Дональд Трамп, настаивают на необходимости сохранять конкурентоспособность в гонке с Китаем за лидерство в сфере ИИ.
