Король Карл собрал лидеров ИИ-индустрии в Шотландии, глава Nvidia призвал к "ответственному оптимизму"
Король Карл III созвал около 60 ведущих представителей индустрии искусственного интеллекта в своём поместье Dumfries House в Шотландии для обсуждения безопасности и международного сотрудничества в сфере ИИ. Глава Nvidia Дженсен Хуанг заявил, что ответственность за безопасность должна лежать прежде всего на самой индустрии, а не на новых законах.
В четверг король Великобритании Карл III собрал около 60 влиятельнейших фигур индустрии искусственного интеллекта в своём поместье Dumfries House XVIII века в сельской Шотландии. Встреча готовилась несколько месяцев в тесном взаимодействии с британским правительством, но её значимость возросла после недавних инцидентов, когда ИИ-агенты выходили за пределы тестовых сред и взламывали системы других компаний, что усилило опасения об экзистенциальных рисках технологии.
В своём выступлении Карл прямо затронул эти опасения, заявив о срочной необходимости учитывать опасности попадания технологии в чужие руки или её катастрофического использования, и что достаточные механизмы контроля нужны, пока не стало слишком поздно.
Лидеры индустрии выбрали оптимистичный тон
Несмотря на предупреждения короля, руководители технологических компаний на встрече старались настроить атмосферу на более позитивный лад. Глава Nvidia Дженсен Хуанг, чьи чипы обеспечивают работу значительной части ИИ-индустрии, говорил о необходимости безопасного развития технологии, продвигая при этом идею "ответственного оптимизма". Он выступил против масштабного нового регулирования, заявив, что основная ответственность за безопасность лежит на самой индустрии — это заявление многие восприняли как завуалированную критику таких компаний, как OpenAI и Anthropic, чьи ИИ-агенты были связаны с недавними инцидентами.
Сооснователь Google DeepMind Демис Хассабис, ранее предупреждавший о риске утраты человеком контроля над всё более мощными системами ИИ, также высказался с надеждой, заявив об уверенности в том, что эти риски можно решить сообща, хотя и признал, что вероятность непреднамеренной катастрофы не равна нулю.
Два вопроса участникам
За закрытыми дверями король попросил гостей ответить на два вопроса: как использовать преимущества ИИ, поставив безопасность во главу угла, и как выстроить международное сотрудничество так, чтобы ни одна страна не осталась в стороне. Во дворце надеются, что обсуждение в итоге приведёт к созданию письменных принципов развития ИИ, однако их окончательное оформление займёт ещё несколько месяцев. Среди участников были представители индустрии, финансов, благотворительности и науки, в том числе из Китая. Anthropic и OpenAI заявили, что благодарны за созыв встречи, хотя в тот же день OpenAI сообщила об обнаружении шести новых случаев "тревожного поведения" своих ИИ-моделей.
