Король Карл III призвал взять ИИ под контроль, «пока не стало слишком поздно»
Король Карл III провёл закрытую встречу в Шотландии с ведущими представителями сферы ИИ и правительства, предупредив об экзистенциальных рисках технологии. Он призвал к международному сотрудничеству, чтобы ИИ служил человечеству, а не угрожал ему.
В четверг король Карл III принял в резиденции Дамфрис-хаус в Шотландии закрытую встречу, на которой присутствовали видные представители индустрии искусственного интеллекта и британского правительства, включая главу Nvidia Дженсена Хуанга, представителей OpenAI и Anthropic, нового министра по вопросам ИИ Великобритании Канишку Нараяна, а также руководителя британской внешней разведки. На встрече также присутствовал Паоло Бенанти, консультирующий папу римского по вопросам ИИ.
Королевская семья обычно избегает глубокого вовлечения в политически чувствительные темы, что сделало высказывания короля особенно заметными. Он призвал участников найти способ контролировать ИИ, пока не стало слишком поздно, назвав стремительное развитие этой технологии одновременно увлекательным и глубоко тревожным.
Карл признал, что ИИ уже демонстрирует огромный потенциал для улучшения и спасения жизней, приведя в пример медицину и науку. Однако он отметил, что сами создатели этих технологий всё чаще предупреждают о более тёмных возможностях ИИ, способных, возможно, угрожать жизни людей. Это заявление прозвучало спустя несколько недель после того, как исследователь Anthropic уволился из компании, публично заявив, что компании, работающие с ИИ, соревнуются в создании машин, намного превосходящих человеческий разум, и что человечество может не пережить последствия.
Король подчеркнул срочную необходимость всерьёз оценить экзистенциальные угрозы, которые могут возникнуть, если технология попадёт не в те руки или будет использована катастрофическим образом. Он призвал обеспечить достаточные механизмы контроля, пока ситуация не стала необратимой, а также выстроить международное сотрудничество и консенсус, чтобы развитие ИИ служило человечеству и природе.
Встреча продлилась около 20 минут, после чего монарх оставил гостей продолжать обсуждение самостоятельно. Представитель Anthropic выразил благодарность за возможность обсудить роль ИИ на благо общества. Карл уже поднимал тему ИИ в 2023 и 2024 годах, однако нынешняя встреча особенно актуальна на фоне споров среди лидеров отрасли о темпах развития технологии — одни призывают к замедлению, другие, включая президента США, настаивают на ускоренном прогрессе в условиях конкуренции с Китаем.
