Fortytwo запускає Engine API: на 24,7% менше токенів у завданнях із програмування

Fortytwo запустила Fortytwo Engine — API для інференсу, який використовує взаємодію моделей штучного інтелекту, щоб поліпшити міркування й водночас зменшити обсяг згенерованого тексту, потрібного для виконання завдання. За даними компанії, перша підтримувана модель — Qwen 3.8 27B — використала на 24,7% менше токенів у 450 запусках із завданнями з інженерії програмного забезпечення з набору DeepSWE, ніж та сама модель, що працювала окремо, і водночас виконала більшу частку завдань.

В анонсі йдеться про зростання витрат на ШІ-агентів: низька ціна за токен не обов’язково означає низьку вартість виконаного завдання. Під час тривалих сеансів програмування й досліджень можуть накопичуватися повторюваний контекст, зайві виклики інструментів і повторні спроби. За словами компанії, підхід Fortytwo покликаний зменшити ці марні витрати безпосередньо під час інференсу, зберігши ціну за токен на рівні базової моделі.

Спрямування міркувань, перш ніж помилки накопичаться

Fortytwo називає технологію, що лежить в основі нового Engine, Swarm Decoder. Кілька моделей-учасниць спільно формують траєкторію міркування в процесі її побудови й оцінюють, який напрям є перспективнішим, перш ніж відповідь буде завершено. Мета — виявляти хибні припущення на ранньому етапі й уникати додаткової генерації та роботи з виправлення наслідків, що виникають через помилковий напрям.

Це відрізняється від попередньої архітектури Fortytwo. У своєму дослідженні ройового інференсу 2025 року компанія використовувала окремі вузли, які створювали незалежні відповіді, безпосередньо порівнювали їх і об’єднували найсильніші напрацювання. За описом компанії, статистичний механізм ранжування надає більшої ваги вузлам, які вже довели свою ефективність, а оцінювання колегами допомагає сформувати їхню репутацію. Такий попередній підхід оцінював готові відповіді; новий Engine переносить взаємне ранжування безпосередньо в процес міркування.

Ця відмінність важлива для агентів, які виконують багатоетапні завдання. Вибір найкращої готової відповіді може поліпшити результат, але не повертає токени, уже витрачені на створення слабших варіантів. Безперервне спрямування має запобігти розвитку непродуктивної траєкторії від самого початку. Fortytwo зазначає, що під час підрахунку токенів враховує всі моделі-учасниці, а не лише фінальну відповідь.

Генеральний директор і співзасновник Ivan Nikitin описав подвійну користь: «Колективне міркування дає подвійну перевагу: відповіді кращі, а для виконання завдань потрібно менше токенів».

Що показали випробування Fortytwo

Під час оцінювання компанії на DeepSWE Engine набрав 47,8 бала проти 42,2 у базової моделі — приріст становив 5,6 відсоткового пункта. Середня кількість токенів на один запуск зменшилася з 16,3 мільйона до 12,3 мільйона. За даними Fortytwo, сумарно в усіх 450 запусках базова модель використала 7,4 мільярда токенів, а Engine — 5,6 мільярда.

У матеріалах до запуску також повідомляється про вищі результати за п’ятьма іншими бенчмарками з природничих наук, програмування та загального міркування:

Джерело: анонс запуску Fortytwo. Порівнюються результати Qwen 3.8 27B із Engine та без нього за протоколом оцінювання компанії.

Ці результати надані компанією. Скорочення кількості токенів на 24,7% стосується лише запусків DeepSWE; його не слід вважати виміряною економією для всіх бенчмарків чи робочих навантажень у виробничому середовищі. Для розробників практичне випробування полягає в тому, чи зможе модель точно виконувати їхні власні завдання, використовуючи загалом менше токенів, повторних спроб і викликів інструментів.

Звичний API з чітко визначеними обмеженнями сумісності

Сервіс доступний через платформу Fortytwo для розробників. У документації API описано сумісність з API OpenAI Chat Completions: наявний SDK або клієнт може використовувати ключ API та базову URL-адресу Fortytwo разом із підтримуваним ідентифікатором моделі.

Серед задокументованих можливостей — потокове передавання даних, виклик функцій-інструментів, паралельні виклики інструментів і структурований вивід. Розробники також можуть вибрати рівень інтенсивності міркування. Завдяки цим функціям сервіс підходить для агентів, яким потрібно викликати програмні інструменти й повертати результати у форматі, придатному для машинної обробки, а не лише генерувати текст у формі розмови.

Сумісність має свої межі. У документації зазначено, що підтримуються кінцеві точки Chat Completions і отримання списку моделей, тоді як API Responses, Embeddings, Audio, Files і Assistants не підтримуються. Деякі поля запиту підтримуються лише частково або залежать від вибраної моделі, а непідтримувані поля спричиняють помилку, а не мовчки ігноруються. Тому перед перенесенням наявного застосунку командам варто звірити його фактичні запити з посібником із сумісності.

Ширша ставка на колективний ШІ

Engine працює поряд із Fortytwo Harbor — пропозицією компанії для організацій, які хочуть розгорнути ройовий інференс на власній інфраструктурі. Fortytwo позиціонує Harbor як рішення, що дає змогу зберігати дані в межах організації та платити фіксовану вартість обладнання замість оплати API за кожен токен.

Ширша дослідницька програма компанії також передбачає створення навчальних даних за допомогою її мережі моделей. На сайті компанії представлено Strand-Rust-Coder-14B — відкриту модель, навчену на наборі даних, створеному Fortytwo. Ця робота стосується навчання моделей, тоді як новий Engine зосереджений на вдосконаленні міркувань наявних моделей із відкритими вагами під час інференсу.

Компанія Fortytwo, заснована у 2024 році, повідомляє, що має команду з 15 інженерів, зокрема в Маунтін-В’ю та Абу-Дабі, залучила $2.3 мільйона початкового фінансування у 2025 році та приєдналася до екосистеми Hub71 в Абу-Дабі у 2026 році. Після Qwen 3.8 27B для Engine планують випустити більше відкритих моделей.

Під час запуску основну увагу приділено вартості успішно виконаного завдання. Якщо безперервне взаємне оцінювання зможе надійно запобігати достатній кількості марних міркувань, щоб компенсувати власні накладні витрати, розробники можуть отримати ще один спосіб підвищити економічну ефективність агентів — поряд із кращими моделями та швидшим обладнанням.