Исследователи предупреждают: нет ясного способа замедлить развитие ИИ
Несмотря на растущее политическое и общественное давление в пользу сдерживания искусственного интеллекта, эксперты признают, что надёжного способа обеспечить такое замедление пока не существует. Новый доклад призывает рассматривать эту проблему как нерешённую научную задачу.
Новый доклад под названием "Pacing the Frontier" предупреждает: хотя многие исследователи ИИ считают технологию потенциально опасной, реального способа замедлить её развитие пока не найдено. Соавтор доклада Реймонд Дуглас из Университета Торонто утверждает, что к этому вопросу нужно подходить как к исследовательской задаче, поскольку даже спектр возможных решений остаётся малопонятным.
Обеспокоенность усилилась после того, как бывший исследователь Anthropic, покинув компанию, предупредил о возможной угрозе человечеству в течение ближайших нескольких лет — мнение поддержал и руководитель лаборатории безопасности Anthropic. Главы крупных ИИ-компаний, включая Anthropic, OpenAI, SpaceXAI и Google DeepMind, заявили о поддержке той или иной формы замедления или паузы. Тревогу усиливает и то, что ИИ уже используется для создания более мощных моделей, что порождает опасения по поводу ускоряющегося цикла самосовершенствования.
Предлагаемые подходы
Одна из идей — предоставить независимым экспертам более широкий доступ к моделям для тестирования их возможностей и выявления нежелательного поведения. Джеффри Ирвинг, бывший главный научный сотрудник британского Института безопасности ИИ, считает, что строгие проверки могли бы фактически приостановить развитие передовых моделей уже сейчас. Однако критики, включая главу некоммерческой организации Control AI Коннора Лихи, утверждают, что нынешние оценки недостаточно независимы, и предлагают привлекать такие ведомства, как ФБР или АНБ.
Другой подход предполагает контроль над вычислительными мощностями — тысячами передовых графических процессоров, используемых в дата-центрах для обучения крупнейших моделей. Исследователи предлагали модифицировать чипы для криптографической фиксации объёма вычислений или даже встраивать удалённые "выключатели", требующие авторизации для запуска определённых моделей.
Эксперты также подчёркивают важность международного сотрудничества, особенно с Китаем, который также способен создавать передовые ИИ-системы. США уже ограничили экспорт самых мощных чипов Nvidia, но с ограниченным эффектом. Авторы доклада предупреждают, что поспешное внедрение непродуманных мер контроля может лишь усугубить ситуацию, погрязнув в политике или оказавшись заложником интересов самой отрасли.
