Обещание крупных ИИ-компаний замедлить развитие вызывает сомнения в истинных мотивах
Руководители OpenAI, Anthropic, Google DeepMind и SpaceX на выходных договорились о замедлении темпов развития искусственного интеллекта, однако эксперты расходятся во мнениях — это реальный шаг к безопасности или способ избежать регулирования. Критики предупреждают, что план может сильнее ударить по конкурентам, чем реально сдержать опасную технологию.
На выходных руководители ведущих ИИ-компаний — глава OpenAI Сэм Альтман, глава Anthropic Дарио Амодеи, сооснователь Google DeepMind Демис Хассабис и глава SpaceX Илон Маск — неформально договорились "сдерживать темп" развития искусственного интеллекта. Предложение предусматривает привлечение независимых аудиторов внутрь лабораторий, внутренний надзор за компаниями и стремление к глобальному соглашению о замедлении разработок.
Скептики, однако, полагают, что за этим может скрываться желание заблокировать конкурентов и ослабить движение открытого кода, избежав при этом реальных юридических обязательств — некоторые прямо назвали это "картелем". Источники в отрасли говорят, что ситуация сложнее: идеи, заложенные в предложении, давно продвигают сторонники безопасности ИИ, но многих беспокоит, что решения принимают сами руководители индустрии, а не независимые эксперты.
Напряжение усилилось после письма об увольнении исследователя Anthropic Джейкоба Коксона, который написал, что разработчики ИИ сами всерьёз опасаются катастрофических последствий своей технологии, но продолжают гонку к самосовершенствующемуся суперинтеллекту. Его письмо набрало более 170 миллионов просмотров в интернете.
Многие эксперты называют главной причиной нынешней тревоги растущие опасения по поводу так называемого рекурсивного самосовершенствования (RSI) — гипотетического момента, когда ИИ-системы смогут обучать и улучшать себя без участия человека. В Anthropic полагают, что этот рубеж может быть достигнут уже в 2027 году.
Главным препятствием для реального замедления остаётся конкуренция с Китаем: многие в отрасли считают, что США не могут позволить себе отстать, несмотря на риски. При этом эксперты предупреждают, что без государственного регулирования добровольные обязательства ИИ-лабораторий рискуют остаться лишь формальностью.
