OpenAI представила режим 'Ultrafast', ускоряющий работу GPT-5.6 Sol в 14 раз
OpenAI представила новый режим 'Ultrafast', который позволяет её флагманской модели GPT-5.6 Sol работать в 14 раз быстрее обычного. Пока функция доступна в предварительной версии лишь узкому кругу клиентов.
Компания OpenAI представила новый режим работы под названием Ultrafast, призванный значительно ускорить работу её самой мощной модели GPT-5.6 Sol. Согласно записи в блоге компании, опубликованной в четверг, новый режим позволяет модели работать до 14 раз быстрее стандартной обработки, достигая скорости до 750 выходных токенов в секунду. Выходные токены — это отдельные фрагменты текста, которые генерирует языковая модель при взаимодействии с пользователем.
OpenAI отмечает, что ранее для достижения скорости в реальном времени приходилось выбирать меньшую или более узкоспециализированную модель. Ultrafast, по словам компании, открывает новый путь — больше полезной работы в секунду без потери возможностей модели. Работа режима обеспечивается благодаря партнёрству OpenAI с производителем микросхем Cerebras.
Конкуренция и применение
Другие компании, работающие с ИИ, включая Anthropic, также выпускали ускоренные версии своих моделей — например, Anthropic предлагает быстрый режим для Claude, однако он не достигает той скорости, которую сейчас предлагает OpenAI.
В OpenAI считают, что Ultrafast может быть полезен в различных корпоративных задачах, включая реагирование на инциденты, обслуживание и поддержку клиентов, анализ финансовых рынков и электронную коммерцию.
На данный момент Ultrafast доступен в предварительной версии лишь узкому кругу клиентов. В OpenAI заявили, что планируют постепенно расширять доступ по мере роста вычислительных мощностей.
