Экс-исследователь OpenAI представил ИИ-модель без текстовых ответов
Стартап TypeSafe AI, основанный одним из создателей ChatGPT, выпустил модель Jev, которая вместо текста выдаёт вероятности и уже привлекла большой интерес разработчиков благодаря скорости и низкой цене. Спрос оказался настолько высоким, что компания временно не справлялась с обслуживанием пользователей API.
Диогу Алмейда, бывший исследователь OpenAI, участвовавший в создании ChatGPT и разработке метода обучения с подкреплением на основе обратной связи от людей (RLHF), два года назад покинул компанию, чтобы основать стартап TypeSafe AI. Он пришёл к выводу, что большие языковые модели, при всей их мощи, плохо подходят для автоматизации, поскольку компьютеры обрабатывают информацию иначе, чем люди используют язык.
На этой неделе TypeSafe AI выпустила модель Jev, построенную на архитектуре трансформера, но принципиально отличающуюся от обычных языковых моделей. Вместо генерации текста Jev выдаёт вероятности — так называемые "калиброванные решения". Поскольку возможные варианты ответа задаются пользователем заранее, модель не может "галлюцинировать", а работает значительно дешевле и быстрее традиционных языковых моделей.
Высокий интерес разработчиков
Спрос на Jev оказался настолько велик, что TypeSafe AI на время потеряла возможность обслуживать всех пользователей через свой API. Инженер компании Vercel рассказал, что после замены модели OpenAI на Jev в классификаторе, проверяющем безопасность команд, результаты стали приходить в пять-восемнадцать раз быстрее и точнее. Другой разработчик, тестировавший Jev против Google Gemini для классификации деловой почты, отметил, что Gemini была чуть точнее, но заметно дороже, при этом похвалил Jev за реальные вероятностные оценки, полезные для автоматизации рабочих процессов.
Помимо замены языковых моделей в отдельных задачах, Jev может использоваться и как дополнение к ним — для отслеживания поведения других ИИ-агентов и попыток обхода ограничений, а также для распределения задач между разными моделями с учётом стоимости и скорости в реальном времени.
Модель названа в честь экономиста Уильяма Стэнли Джевонса, чей парадокс описывает, как снижение стоимости ресурса приводит к росту его общего потребления. Алмейда надеется, что удешевление интеллекта приведёт к его повсеместному и стихийному внедрению в программное обеспечение — по аналогии с ранним интернетом, а не нынешними доминирующими приложениями.
Архитектуру модели в TypeSafe AI не раскрывают, сообщая лишь, что Jev обучен исключительно на синтетических данных по собственной методике компании. Наблюдатели отрасли ожидают появления конкурентов теперь, когда полезность такого подхода стала очевидной.
