Призыв Амодеи замедлить развитие ИИ вызвал разные реакции в отрасли и политике

Глава Anthropic Дарио Амодеи на выходных опубликовал эссе под названием "We Must Pace the Frontier", в котором изложил три шага для регулирования темпов развития искусственного интеллекта: привлечение независимых сторонних экспертов для проверки соблюдения компаниями обязательств по безопасности, координацию между ведущими ИИ-компаниями демократических стран по общим стандартам, а также, по возможности, более широкую координацию между демократическими и авторитарными правительствами. Амодеи заявил, что Anthropic в одностороннем порядке берёт на себя обязательство по первому пункту, и пояснил, что замедление темпов не означает остановку обучения моделей, а лишь предоставление компаниям достаточного времени для обеспечения безопасности моделей с последующим подтверждением независимыми экспертами.

Лидеры отрасли выражают поддержку

Глава OpenAI Сэм Альтман заявил, что согласен с Амодеи, отметив, что эта тема в последние недели активно обсуждалась внутри OpenAI. Он также поддержал идею независимых экспертов-оценщиков и выразил надежду на появление федеральной рамки с едиными требованиями безопасности для ведущих ИИ-компаний. Альтман предупредил о двух рисках: потере контроля над будущим в пользу ИИ и чрезмерной концентрации власти. Сооснователь Google DeepMind Демис Хассабис и глава SpaceX Илон Маск также публично поддержали позицию Амодеи.

Мнения политиков разделились

Президент США Дональд Трамп в соцсети Truth Social выступил против идеи замедления развития ИИ, заявив, что единственный необходимый контроль — это сильный президент, и обвинив критиков в организации "больного заговора" против ИИ и дата-центров. Вице-президент Джей Ди Вэнс отметил, что просьбы технокомпаний о государственном регулировании выглядят как "троянский конь", указав на продолжающуюся конкуренцию с Китаем. Спикер Палаты представителей Майк Джонсон заявил о готовности созвать встречу с лидерами отрасли для поиска баланса между безопасностью и национальной безопасностью, отвергнув при этом полный мораторий. Сенатор Берни Сандерс поддержал точку зрения о необходимости приостановить развитие ИИ ради блага человечества.