Fortytwo запускает API Engine и сообщает о сокращении числа токенов на 24,7% при выполнении задач по программированию

Fortytwo запустила Fortytwo Engine — API для инференса, который использует взаимодействующие модели ИИ, чтобы улучшать рассуждения и сокращать объем генерируемого текста, необходимого для выполнения задачи. По данным компании, первая поддерживаемая модель, Qwen 3.8 27B, использовала на 24,7% меньше токенов в 450 запусках задач по разработке ПО из набора DeepSWE, чем та же модель при работе в одиночку, и при этом решила бо́льшую долю задач.

Анонс посвящен растущей проблеме стоимости работы ИИ-агентов: низкая цена за токен не обязательно означает низкую стоимость выполненной задачи. При длительной работе над задачами по программированию и исследованию могут накапливаться повторяющийся контекст, ненужные вызовы инструментов и повторные попытки. По словам компании, подход Fortytwo позволяет сократить эти избыточные затраты непосредственно в процессе инференса, сохраняя цену за токен на уровне базовой модели.

Направлять рассуждения до того, как ошибки приведут к новым проблемам

Fortytwo называет технологию, лежащую в основе нового Engine, Swarm Decoder. Несколько взаимодействующих моделей совместно формируют ход рассуждений по мере его генерации и оценивают, какое направление лучше, прежде чем ответ будет завершен. Цель — выявлять слабые предположения на раннем этапе, избегая дополнительной генерации и восстановления после ошибочного поворота.

Это изменение по сравнению с прежней архитектурой Fortytwo. В исследовании роя для инференса, опубликованном в 2025 году, отдельные узлы генерировали независимые ответы, сравнивали их напрямую и объединяли наиболее сильные идеи. Компания описывает механизм статистического ранжирования, который присваивает больший вес проверенным узлам; оценка со стороны других участников помогает сформировать их репутацию. В прежнем подходе оценивались уже готовые ответы, а новый Engine переносит взаимное ранжирование непосредственно в процесс рассуждения.

Это различие важно для агентов, выполняющих многошаговые задачи. Выбор самого сильного готового ответа может улучшить результат, но не возвращает токены, уже потраченные на генерацию более слабых вариантов. Непрерывное управление ходом рассуждений призвано с самого начала не допускать развития непродуктивного направления. По словам Fortytwo, при подсчете токенов учитываются все участвующие модели, а не только итоговый ответ.

Генеральный директор и сооснователь Иван Никитин описал двойную выгоду так: «Коллективные рассуждения дают двойной эффект: ответы становятся лучше, а на выполнение задач уходит меньше токенов».

Что показывают испытания Fortytwo

В оценке DeepSWE компании Engine набрал 47,8 балла против 42,2 у базовой модели — прирост составил 5,6 процентного пункта. Средний расход токенов на один запуск снизился с 16,3 млн до 12,3 млн. По данным Fortytwo, во всех 450 запусках базовая модель использовала в общей сложности 7,4 млрд токенов, а Engine — 5,6 млрд.

В материалах о запуске также сообщается о более высоких результатах по пяти другим тестам, охватывающим естественные науки, программирование и общие навыки рассуждения:

Источник: анонс запуска Fortytwo. В рамках протокола оценки компании сравнивались результаты Qwen 3.8 27B с Engine и без него.

Это результаты, опубликованные компанией. Сокращение числа токенов на 24,7% относится именно к запускам DeepSWE; его не следует считать измеренной экономией для всех тестов или всех рабочих нагрузок в производственной среде. Для разработчиков практическая проверка заключается в том, сможет ли модель точно выполнять их собственные задачи, используя при этом меньше токенов в общей сложности, реже повторяя попытки и реже вызывая инструменты.

Привычный API с четко обозначенными ограничениями совместимости

Сервис доступен через платформу для разработчиков Fortytwo. В документации API описана совместимость с OpenAI Chat Completions API: существующий SDK или клиент может использовать ключ API и базовый URL Fortytwo вместе с поддерживаемым идентификатором модели.

Среди документированных возможностей — потоковая передача данных, инструменты для вызова функций, параллельные вызовы инструментов и структурированный вывод. Разработчики также могут выбирать уровень интенсивности рассуждений. Благодаря этим функциям сервис подходит для агентов, которым нужно вызывать программные инструменты и возвращать результаты в машиночитаемом формате, а не только генерировать текст диалога.

Совместимость имеет ограничения. В документации указано, что поддерживаются конечные точки Chat Completions и получения списка моделей, тогда как такие API, как Responses, Embeddings, Audio, Files и Assistants, не поддерживаются. Некоторые поля запросов поддерживаются лишь частично или зависят от выбранной модели; при использовании неподдерживаемых полей возвращается ошибка, а не происходит их незаметное игнорирование. Поэтому перед переносом существующего приложения командам следует сверить реальные запросы с руководством по совместимости.

Более масштабная ставка на коллективный ИИ

Engine дополняет Fortytwo Harbor — предложение компании для организаций, которые хотят развернуть инференс с использованием роя моделей на собственной инфраструктуре. Fortytwo позиционирует Harbor как решение, позволяющее хранить данные внутри периметра организации и использовать фиксированную стоимость оборудования вместо оплаты API за каждый токен.

Более широкая исследовательская программа компании также включает создание обучающих данных с помощью сети моделей. На сайте компании выделена Strand-Rust-Coder-14B — открытая модель, обученная на наборе данных, созданном Fortytwo. Эта работа посвящена обучению моделей, тогда как новый Engine нацелен на улучшение логических рассуждений существующих моделей с открытыми весами во время инференса.

По словам Fortytwo, основанная в 2024 году компания насчитывает команду из 15 инженеров, в том числе в Маунтин-Вью и Абу-Даби, привлекла $2.3 million в рамках посевного раунда в 2025 году и в 2026 году вошла в экосистему Hub71 в Абу-Даби. После Qwen 3.8 27B для Engine планируется выпустить и другие открытые модели.

При запуске особый акцент сделан на затратах на выполнение задачи. Если непрерывная взаимная оценка сможет надежно предотвращать достаточное количество бесполезных рассуждений, чтобы компенсировать собственные накладные расходы, разработчики получат еще один способ повысить экономическую эффективность агентных систем наряду с использованием более совершенных моделей и более быстрого оборудования.