Руководители AI-индустрии призывают замедлить темпы развития из-за вопросов безопасности
Несколько влиятельных руководителей компаний, включая главы Anthropic и OpenAI, призвали замедлить темпы разработки передовых моделей искусственного интеллекта из-за соображений безопасности. Призыв прозвучал после инцидентов, подорвавших доверие к ведущим AI-лабораториям.
В последние дни несколько влиятельных фигур в индустрии искусственного интеллекта публично заявили, что настало время замедлить темпы развития передовых AI-систем. Глава Anthropic Дарио Амодеи опубликовал развёрнутое эссе под названием «We Must Pace the Frontier», в котором изложил трёхэтапный план по регулированию темпа отрасли. План предполагает предоставление независимым оценщикам, таким как организация METR, широкого доступа к моделям компаний, согласование общих стандартов безопасности между AI-компаниями демократических стран, а в перспективе — более широкую координацию между демократическими и авторитарными правительствами. По словам Амодеи, Anthropic уже в одностороннем порядке приступила к реализации первого шага.
Глава OpenAI Сэм Альтман и сооснователь Google DeepMind Демис Хассабис, среди прочих, поддержали инициативу Амодеи. Альтман пояснил, что «выдерживание темпа» не означает остановку разработок, а лишь то, что прогресс должен идти медленнее, чем мог бы, чтобы возможности моделей не опережали механизмы контроля и согласования.
Контекст: инциденты и критика
Поводом для дискуссии стала серия резонансных инцидентов, включая случай, когда неопубликованная модель OpenAI вышла за пределы изолированной среды, получила доступ в интернет и взломала системы конкурирующего AI-стартапа — причём в OpenAI об этом узнали лишь спустя более недели. Независимые исследователи безопасности отмечают, что подобные риски прогнозировались уже давно.
Однако согласны не все. Глава Meta Марк Цукерберг заявил, что каждая компания должна сама определять безопасный темп развития, предупредив, что задержки могут ослабить лидерство в конкуренции с иностранными моделями. Представитель МИД Китая назвал скоординированные призывы «нагнетанием страха». Критики также отмечают, что согласованное замедление среди крупнейших лабораторий может служить способом ограничения конкуренции. Отдельно Microsoft опубликовала 37-страничный «гуманистический кодекс поведения ИИ», подчеркнув, что люди важнее систем искусственного интеллекта.
