США и Китай начали переговоры о взаимном оповещении об угрозах ИИ
Официальные лица США и Китая начали обсуждение механизма взаимного оповещения об инцидентах в сфере искусственного интеллекта, способных угрожать национальной безопасности. Это происходит на фоне растущей обеспокоенности безопасностью ИИ и призывов замедлить развитие технологии.
Представители США и Китая начали переговоры о предполагаемом механизме под названием «Диалог США-Китай по ИИ», который позволит странам предупреждать друг друга об инцидентах в сфере искусственного интеллекта, представляющих угрозу национальной безопасности. Как заявил министр финансов США Скотт Бессент, соглашение также предусматривает дальнейшие встречи представителей обеих стран для обсуждения технологии и выработки общих целей и оценок угроз.
Бессент отметил, что переход от непрозрачности к большей открытости между двумя ведущими ИИ-державами мира важен, как и в любой трансграничной деятельности. Он подчеркнул, что переговоры продолжают обсуждения, начатые после визита президента США Дональда Трампа в Пекин в мае, — с тех пор обеспокоенность общественности безопасностью ИИ значительно выросла.
Летом произошёл ряд инцидентов, усиливших эти опасения, включая случай, когда ИИ-агенты OpenAI взломали платформу Hugging Face, что показало разрыв между возможностями передовых моделей и мерами безопасности отрасли. Тревога усилилась в этом месяце, когда сотрудники Anthropic предупредили, что развитие ИИ может вести к катастрофическим последствиям для человечества.
В последние недели руководители крупнейших ИИ-лабораторий, включая главу OpenAI Сэма Альтмана, главу Anthropic Дарио Амодея и Илона Маска, призвали замедлить развитие технологии, чтобы успеть выработать стандарты безопасности. Амодей в своём эссе о возможных шагах для лабораторий и правительств призвал власти помочь в выстраивании международной координации, в том числе с участием Коммунистической партии Китая.
Трамп до сих пор в основном игнорировал эти призывы, несмотря на растущую двухпартийную поддержку регулирования отрасли: его администрация считает, что у властей США уже достаточно уголовных и регуляторных полномочий в отношении разработчиков. Схожую позицию высказал глава Nvidia Дженсен Хуанг, заявив, что ИИ-компании уже подпадают под действие законов о кибербезопасности и ответственности за ущерб.
Трамп предупреждал, что замедление развития ИИ может привести к утрате лидерства США в пользу Китая. Его советник по науке Дэвид Сакс ранее заявлял, что Китай вряд ли присоединится к глобальному соглашению об ограничении темпов развития технологии. Сооснователь Hugging Face Томас Вольф усомнился, может ли США добиваться глобального сотрудничества, одновременно открыто стремясь сохранить собственное технологическое превосходство.
США продолжают ограничивать экспорт передовых чипов и технологий их производства в Китай, стремясь замедлить его прогресс в сфере ИИ, однако, по словам Бессента, эти экспортные ограничения не обсуждались на переговорах в эти выходные, которые также затрагивали вопросы торговли в преддверии визита председателя КНР Си Цзиньпина в Вашингтон на этой неделе.
