Новый Decisions API от OpenAI напоминает модель Jev от конкурирующего стартапа
На мероприятии Dev Day компания OpenAI представила Decisions API, который во многом похож на модель-классификатор Jev от стартапа TypeSafe AI, выпущенную в начале месяца. Оба решения предназначены для быстрой и дешёвой оценки заданных вариантов, в том числе для контроля за поведением ИИ-агентов.
Во вторник на мероприятии Dev Day глава OpenAI Сэм Альтман объявил о запуске нового Decisions API — инструмента, который позволяет модели компании Luna выбирать из заранее заданного набора вариантов, например классифицировать изображение по категориям или выбирать между разными вариантами поведения агента. По словам Альтмана, ограничивая модель конкретным выбором, разработчики добиваются высокой скорости работы, сохраняя при этом такие возможности, как понимание изображений, поддержку множества языков и механизмы безопасности.
Новинку сразу сравнили с моделью Jev, выпущенной в начале этого месяца стартапом TypeSafe AI. Jev представляет собой своего рода усиленный классификатор на основе большой языковой модели: разработчики задают набор вариантов, а модель быстро и дёшево возвращает вероятности для каждого из них. В TypeSafe не ответили на вопросы TechCrunch о новом продукте OpenAI, однако глава компании Диогу Алмейда, бывший инженер OpenAI, в шутку написал в X о начале «войны клонов» и отметил, что интерес OpenAI может говорить о том, что быстрый, интуитивный подход — который в TypeSafe называют «Системой Один» — это будущее индустрии.
Пока неясно, насколько Decisions API будет похож на Jev, поскольку OpenAI выпустила его лишь в виде ограниченного превью, и разработчики пока массово не тестировали новинку. Тем не менее интерес к теме очевиден, а похожие модели для принятия решений разрабатывают и другие стартапы — OpenAI вряд ли останется последней крупной компанией, выпустившей подобный продукт.
Возможное применение в безопасности агентов
Одна из вероятных областей применения — мониторинг и обеспечение безопасности ИИ-агентов. После серии инцидентов, когда агенты OpenAI некорректно действовали в открытом интернете, компания начала использовать отдельную модель для отслеживания вредоносных действий, что требует значительных вычислительных затрат. Специалист по кибербезопасности Шапор Нагибзаде представил на хакатоне демонстрацию, в которой Jev проверяет каждое действие агента на соответствие поставленной задаче, блокируя действия с высокой вероятностью ошибки и помечая остальные для проверки. По его оценке, такой мониторинг с Jev обходится в 2,94 доллара против 372 долларов при использовании топовой большой языковой модели.
