Рост стоимости компании в 37 раз за 24 дня — это самая захватывающая новость года в индустрии искусственного интеллекта

Компания Jev попала в заголовки новостей. Сегодня нетекстовая модель искусственного интеллекта привлекла 870 миллионов долларов инвестиций, возглавляемых компанией a16Z, в результате чего рыночная капитализация компании достигла 7,5 миллиардов долларов.

Когда TypeSafe впервые запустилась 15 сентября, компания привлекла всего 40 миллионов долларов в рамках посевного раунда и оценивалась примерно в 200 миллионов долларов; за 24 дня ее оценка выросла в 37 раз.

Согласно достижениям, о которых рассказал основатель Jev на X, Jev преодолел отметку в 1 миллион пользователей всего за несколько дней, а в течение трех недель после запуска модели обрабатывал триллионы токенов ежедневно. Примерно треть компаний из списка Fortune 500 используют эту модель принятия решений.

За короткое время модели принятия решений появились повсюду. От API Decisions, представленного на конференции разработчиков OpenAI , до платформы с открытым исходным кодом vLLM, выпускающей сразу шесть моделей принятия решений, и теперь Microsoft также выпустила свою собственную модель принятия решений — Microsoft-Decision-1.

Что такое модель принятия решений? Это модель, которая не умеет общаться в чате, писать код и обобщать документы. Мы задаем ей контекст и набор предопределенных вариантов ответов, и она может за короткое время вернуть откалиброванную вероятность каждого варианта. Вот и все.

Причина такой популярности заключается в том, что агент действительно работает.

Задача оператора включает в себя десятки небольших решений по ветвям: к какой модели перенаправить вызов, разрешить ли вызов инструмента и продолжать или остановить процесс. Эти решения имеют ограниченное пространство для ответа, большой объем вызовов и находятся на критическом пути. Использование передовой системы LLM для принятия каждого решения приведет к увеличению задержки выполнения задачи на секунды и увеличению стоимости услуг на токены.

Как отметила Microsoft в своем техническом блоге, посвященном модели Decision-1, как только агентный ИИ станет реальностью, стоимость станет основным фактором при принятии людьми решений о том, как использовать ИИ.

Когда все начнут создавать модели принятия решений

Когда типичная крупная модель получает задачу, она генерирует текст шаг за шагом в соответствии с токеном. Даже если пользователь запрашивает вывод текста в формате JSON, похожего на решение, модели все равно необходимо обрабатывать распространенные проблемы моделирования текста, такие как ошибки форматирования, примеси в интерпретации и отсутствующие поля.

Представленная сегодня модель Microsoft-Decision-1 от Microsoft похожа на предыдущие модели принятия решений. На вход она поступает в виде доказательства, вопроса и набора фиксированных вариантов. Модель выдает вероятность каждого варианта за один проход, и эти результаты предназначены для использования программой, а не для восприятия человеком.

Например, агент готов вызвать внешний инструмент. Решение-1 может предоставить вероятности для «продолжить выполнение», «повторить попытку», «сменить инструмент» и «передать на вмешательство человека». Затем приложение принимает решение о следующем шаге на основе порогового значения.

• Если уровень уверенности достаточно высок, выполняйте действие напрямую;

• Если несколько вариантов похожи, представьте их более крупной модели;

• Если появится сообщение «невозможно определить», запрос будет передан на рассмотрение специалисту.

В настоящее время Decision-1 поддерживает ответы «да/нет», множественный выбор, оценку и классификацию. Он также может оценивать ответы ИИ или действия агентов в соответствии с набором правил. Он может обрабатывать максимум 32 000 токенов за раз, при этом входные и выходные данные представляют собой текст и JSON, без генерации пояснений или процессов рассуждений.

Эта модель основана на Qwen3.5-9B и обучена компанией Microsoft. Данные для обучения взяты из общедоступных наборов данных, прошедших процесс Microsoft Open Data, а также из синтетических данных, сгенерированных командой.

Вкратце, его функция больше похожа на функцию оценщика: большая модель отвечает за предложение решений, а Решение-1 отвечает за проверку соответствия решений условиям; большая модель отвечает за написание ответов, а Решение-1 отвечает за определение возможности предоставления этих ответов.

Подобные модели принятия решений, скорее всего, останутся в качестве уровня инфраструктуры агентов, но они не заменят обычные крупные модели.

В своем техническом блоге Microsoft упомянула, что алгоритм Decision-1 показал наивысшую точность на 36 тестовых наборах и почти 150 000 вопросов, а также оказался в 4,5 раза быстрее, чем Quyet-1.0-Large, и в 35 раз быстрее, чем GPT-6 Sol.

Помимо точности и задержки, настоящей изюминкой Microsoft Decision-1 является вероятность калибровки. Когда модель заявляет о 90% уверенности и действительно выполняет это обещание, мы можем установить пороговое значение: выше 90% она работает автоматически; ниже 90% — переключается на ручное вмешательство или переходит к более крупной модели.

OpenAI продвигает аналогичный продукт: API для принятия решений, который ранее был представлен на конференции разработчиков и теперь официально открыт для публичного бета-тестирования, работающий на базе GPT-6 Luna.

Он позволяет определять вероятность выполнения условий на основе текста и изображений, выбирать из предустановленных вариантов или оценивать по заданным критериям. Его можно использовать для таких задач, как сортировка жалоб, проверка изображений, маршрутизация моделей и оценка рисков.

Согласно данным, опубликованным OpenAI , API решений может быть до 10 раз быстрее для определенных задач по сравнению с вызовом той же модели через API ответов, при этом взимается плата в размере 0,10 доллара за миллион входных токенов, без комиссий за вывод или кэширование.

В сообществе разработчиков открытого программного обеспечения компания vLLM также выпустила шесть моделей принятия решений. Как и Microsoft Decision-1, они также прошли постобучение на основе различных версий модели Qwen.

Некоторые пользователи сети составили список недавно появившихся моделей принятия решений и обнаружили, что большинство из них представляют собой различные версии модели Qianwen, за исключением Decision API от OpenAI и самого Jev.

Мы также можем ознакомиться с тем, как работают эти модели принятия решений, на главной странице vLLM Decision 2.0. Она лучше всего подходит для решения следующих задач:

• Категоризация запросов, моделирование маршрутизации и оценка релевантности результатов поиска;

• Оцените ответ ИИ или действия агента;

• Перехват данных в целях безопасности, проверка данных и маршрутизация рабочих заданий;

• Выберите следующий шаг из предложенных вариантов действий;

• Крупномасштабная текстовая аннотация.

Демонстрационный проект в основном перечисляет такие функции, как маршрутизация LLM. Что является результатом ввода пользователем слов 17 x 24? Выход модели принятия решений представляет собой результат 6 решений, включая модель, сложность, необходимость взлома (jailbreaking), необходимые инструменты, необходимость проверки фактов и приоритет задержки.

Стандартная система отбора и категоризации отлично справляется с четкими правилами, такими как назначение файлов с расширением .jpg процессору обработки изображений и требование дополнительного подтверждения для сумм, превышающих 10 000 юаней.

Однако коду сложно принимать решения, основываясь исключительно на правилах, таких как: «Является ли это сообщение в службу поддержки срочным?», «Отвечает ли этот результат поиска на вопрос?» и «Является ли эта команда деструктивной?».

Модели принятия решений, подобные Jev, предназначены для обработки подобных неоднозначных суждений, но ветви и действия по-прежнему контролируются кодом.

Строго говоря, это не изобретение «суждения» с нуля. Классификаторы, модели перегруппировки, модели вознаграждения, валидаторы и модели модерации контента уже давно работают в условиях ограниченного выбора.

Новым является то, что модель принятия решений объединяет эти возможности в кросс-задачный интерфейс: приложения могут задавать вопросы, кандидатов и критерии оценки при отправке запроса, а модель возвращает результаты и вероятности, сгруппированные по категориям.

Будущее дешевого интеллекта

Когда компания TypeSafe выпустила Jev, она назвала его первой моделью System One.

Главное его преимущество — доступность и скорость: для некоторых задач задержка может составлять 70–500 миллисекунд при стоимости входных данных в 0,042 доллара за миллион токенов. По данным TypeSafe, в некоторых сценариях он может быть в десятки и сотни раз быстрее и экономичнее, чем обычные крупномасштабные рабочие процессы.

Для рабочих процессов агентов, требующих постоянной обработки небольших решений, это означает, что многие задачи, которые ранее было нерентабельно выполнять с помощью больших моделей, теперь могут быть решены с использованием ИИ.

В недавнем сообщении о финансировании основатель Jev Диого заявил a16z, что ИИ уже очень мощный, но само программное обеспечение за последнее десятилетие практически не изменилось. В лучшем случае, продукты добавляют чат-бота, который может выполнять некоторые операции, но это не позволяет программному обеспечению по-настоящему понимать намерения, принимать решения или выполнять большую часть работы самостоятельно.

Искусственный интеллект помогает людям быстрее писать программное обеспечение, но он еще не сделал само программное обеспечение умнее; ценность Jev заключается в том, что он внедряет возможности новейших моделей по цене, доступной для традиционного программного обеспечения.

Количество вопросов, которые человек может задать ИИ за день, в конечном итоге ограничено, но программному обеспечению может потребоваться обрабатывать десятки тысяч оценок каждый день. Когда каждая оценка становится достаточно дешевой, чтобы ею можно было пренебречь, масштабы использования ИИ перестают ограничиваться количеством людей, готовых открыть окно чата.

В последние несколько лет вся отрасль стремится расширить границы интеллекта, позволяя моделям решать все более сложные задачи. Теперь все больше компаний борются за нечто иное: за то, чтобы даже самые обычные, мельчайшие решения были достойны применения искусственного интеллекта.

С этой точки зрения, оценка стоимости TypeSafe взлетела до 7,5 миллиардов долларов всего за 24 дня, и с учетом присоединения Microsoft и OpenAI , они, возможно, делают ставку именно на такое будущее:

Возможно, люди не будут использовать больше продуктов на основе ИИ, но каждая программа, которую мы используем каждый день, может вызывать ИИ тысячи раз в фоновом режиме.