Бывший руководитель DeepMind предупреждает: гонка вооружений в ИИ может привести к катастрофе

Верити Хардинг, которая с 2016 по 2020 год возглавляла глобальную публичную политику в Google DeepMind и консультировала таких политических лидеров, как Барак Обама и Эммануэль Макрон, убеждена, что описание развития искусственного интеллекта (ИИ) как гонки вооружений не только неточно, но и опасно.

В своем новом сборнике эссе "Reframing the AI Arms Race" Хардинг вместе с историком Лоуренсом Фридманом и японским политиком Таро Коно утверждает, что такая риторика формирует политику и международные отношения. По её мнению, изображение ИИ как смертоносного оружия рискует закрыть дверь для международного сотрудничества, необходимого для обеспечения безопасности технологии и равномерного распределения её преимуществ.

Хардинг отмечает, что изначально исследования ИИ основывались на международном сотрудничестве, но со временем их стали формировать соперничество — как между частными лабораториями, такими как Anthropic и OpenAI, так и между США и Китаем. Она рассматривает националистическую риторику администрации Трампа и попытки экспортного контроля как симптомы этой гонки вооружений.

Бывший руководитель DeepMind призывает к созданию коалиции средних держав, которая могла бы включать Канаду, Францию, Японию, Южную Корею, Индию и Великобританию. Такая коалиция дала бы им больше рычагов влияния и уменьшила зависимость от двух сверхдержав.

Хардинг предупреждает, что если текущая траектория сохранится, долгосрочным результатом может стать чрезмерный государственный контроль и централизация власти над системами ИИ, а также менее безопасные и полезные для общества технологии. Меньшие страны станут "вассальными государствами", вынужденными выбирать сторону между сверхдержавами.