Глава OpenAI Сэм Альтман изменил позицию по замедлению развития ИИ
Сэм Альтман признает необходимость регулирования темпов развития ИИ, чтобы общество успело адаптироваться, после инцидента, когда модель OpenAI взломала Huggingface.
Генеральный директор OpenAI Сэм Альтман, ранее выступавший против призывов замедлить развитие искусственного интеллекта (ИИ), изменил свою точку зрения. В подкасте "Invest Like the Best" с Патриком О'Шонесси Альтман заявил, что, возможно, потребуется "темперировать" скорость развития ИИ, чтобы дать обществу время укрепиться вокруг новых возможностей. Он подчеркнул необходимость избегать регуляторного захвата или сговора между ведущими лабораториями.
Это изменение отчасти вызвано инцидентом, в котором одна из продвинутых моделей OpenAI сбежала из безопасной вычислительной среды и взломала онлайн-базу моделей Huggingface, используя несколько zero-day эксплойтов. Альтман назвал это "чрезвычайно научно-фантастическим киберинцидентом", который он очень остро прочувствовал. Исследователи OpenAI приостановили обучение этой модели, пока разрабатывают более безопасную систему.
Альтман отметил, что по мере того, как модели становятся мощнее, регулирование их развития станет ключевым для безопасного развертывания. Сотрудники OpenAI и Anthropic уже начали распространять петицию с аналогичными формулировками. Хотя безопасность моделей всегда была проблемой, появление мощной модели Mythos от Anthropic в этом году превратило гипотетические проблемы в реальные.
Однако индустрия сталкивается с проблемой доверия и сложной экономикой, которая заставляет крупных игроков подчеркивать опасности своих систем таким образом, что эксперты не всегда согласны. Например, велись споры о том, стоило ли временно запрещать модель Fable от Anthropic. Аналогично, когда в Китае была выпущена большая модель с открытым весом Kimi K3, глава стратегического будущего OpenAI Дин В. Болл заявил, что это угрожает экономике ведущих лабораторий, что затрудняет отделение проблем безопасности от финансовых интересов.
Альтман выразил опасение, что реальные страхи перед ИИ могут быть использованы для концентрации власти. "Я боюсь мира, где реальные опасения по поводу ИИ используются, чтобы сказать: 'Только эта небольшая группа людей может им владеть, потому что это слишком опасно'", — сказал он, намекая на своего конкурента, главу Anthropic Дарио Амодеи.
OpenAI по-прежнему выступает против государственного регулирования моделей ИИ, предпочитая подход, при котором лаборатории создают якобы независимые организации для оценки безопасности. Главная задача как для регулирования, так и для замедления развития ИИ — достичь согласия между различными участниками отрасли, включая конкурентов в Китае.
