Fireworks оголошує про швидший інференс агентів і суверенне розгортання

Fireworks оголосила про низку корпоративних продуктів зі штучним інтелектом 3 листопада 2026 року на своїй першій щорічній конференції Forge. Серед них — попередня версія надшвидкого інференсу, яка, за словами компанії, забезпечує швидкість до 1 500 токенів за секунду на DeepSeek V4.1 Flash, а також інструменти для маршрутизації моделей, оцінювання та спеціалізованого обслуговування моделей і закрита попередня версія Fireworks Sovereign для інфраструктури, що належить клієнтам.

Як підібрати швидкість інференсу й вартість відповідно до робочого навантаження

Надшвидкий інференс доступний у відкритій попередній версії на графічних процесорах NVIDIA Blackwell і призначений для багатоетапних агентів, де кожен виклик моделі збільшує час очікування на результат. Fireworks повідомила, що завдяки надшвидкому інференсу час виконання її 30-етапного тесту агентів скоротився з однієї хвилини до восьми секунд. Ця можливість орієнтована на завдання, чутливі до затримок, тоді як для завдань, які можуть зачекати, передбачено дешевші варіанти.

Для завдань, які не потребують негайного виконання, фоновий режим запускає відповідні завдання, як-от створення даних для оцінювання та нічні дослідження, за половину вартості. Багатоденне кешування промптів допомагає зменшити витрати на повторюваний контекст. Вищі ліміти запитів у безсерверному режимі та Elastic Burst загалом доступні для інтенсивніших робочих навантажень; за наявності вільних потужностей Elastic Burst дає змогу перевищити звичайний ліміт використання клієнта без змін у коді чи цінах.

Тестування Fireworks моделі DeepSeek V4.1 Flash від 14 вересня 2026 року показує, чому повторюваний контекст має значення. Під час запуску DeepSWE 99,6% вхідних токенів були отримані з кешу, а плата за токени, отримані з кешу, становила 60% рахунку. Такий розподіл витрат показує, що повторюваний контекст є суттєвим чинником витрат для агентів, які працюють тривалий час, а не лише згенерований результат.

Ту саму увагу до витрат приділено спеціалізації моделей. Ember-1, представлена 23 вересня 2026 року як дослідницька версія для безсерверного режиму, під час оцінювання Fireworks використовувала приблизно на 40% менше токенів, ніж Kimi K3, за порівнянної якості. Вона доступна в безсерверному режимі та на виділених розгортаннях.

Nexus Desktop і ціни на підписки

Fireworks Nexus маршрутизує запити між відкритими й закритими моделями в наявних інструментах для програмування та спільної роботи, використовуючи персоналізований вибір моделей і враховуючи кеш. Крім того, сервіс централізує дані про витрати й засоби керування ними для організацій. Nexus Desktop запустили одночасно з уже наявним Nexus CLI; Nexus працює в застосунку Codex, Claude Desktop та OpenCode.

Нові плани Nexus Pro коштують від 8 доларів на місяць, а плани Teams — від 10 доларів за користувача на місяць. Плани Enterprise додатково пропонують єдиний вхід, засоби управління, спільні бюджети й контроль доступу.

У документації Nexus Desktop зазначено, що універсальна збірка macOS для комп’ютерів Mac із процесорами Apple silicon та Intel невдовзі підтримуватиме Linux і Windows. CLI працює на macOS і Linux, а підтримка Windows обмежена й доступна через Git Bash. До настільної версії можна під’єднати ChatGPT, Claude Code, Cursor IDE, VS Code та OpenCode, тоді як підтримка Claude Desktop, як зазначено, обмежена.

Оцінювання та спеціалізоване обслуговування моделей

No Eval, який нині доступний у закритій попередній версії, використовує трасування з робочих систем і сигнали з продуктів, щоб створювати оцінювання для конкретних завдань. Таке оцінювання має виявляти слабкі місця моделей і показувати, чи усуває їх подальше навчання, допомагаючи виконувати роботу, яка інакше може потребувати тижнів на розмічання та оцінювання даних.

Спеціалізований інференс моделей перейшов у відкриту попередню версію: тепер адаптери LoRA можна обслуговувати на спільному безсерверному пулі Fireworks. Спочатку функція доступна для GLM 5.3 Flash. Клієнти платять за кожен токен за безсерверним тарифом базової моделі й можуть не створювати розгортання. За завантаження адаптера, підтримання його в завантаженому стані та час простою плата за обслуговування не стягується, а навчання оплачується окремо.

Для GLM 5.3 Flash опубліковано такі тарифи: 0,15 долара за мільйон вхідних токенів, 0,03 долара за мільйон вхідних токенів, отриманих із кешу, і 0,50 долара за мільйон вихідних токенів.

У попередній версії підтримується максимальний ранг LoRA 64 і до трьох завантажених адаптерів для базової моделі на один обліковий запис. За документацією Fireworks, завантаження триває менш ніж п’ять хвилин, перший запит може виконуватися до однієї хвилини, а наступні запити — із затримкою, приблизно рівною затримці базової моделі. Під час попереднього тестування гарантій щодо затримки немає.

Адаптери працюють на графічних процесорах, спільних з адаптерами інших клієнтів. Для робочих навантажень, що потребують стабільної затримки, ізольованих графічних процесорів, певного регіону або обслуговування з вищою точністю, рекомендовано виділені розгортання; безсерверний режим призначений для експериментів і мінливого трафіку.

Корпоративні засоби контролю та суверенне розгортання

Управління моделями, контроль витрат і журнали аудиту, які можна експортувати, тепер загалом доступні. Централізоване керування обліковими записами, регіональний контроль даних і шифрування під керуванням клієнта залишаються на етапі попереднього тестування.

Fireworks Sovereign, доступний у закритій попередній версії, запускає рушій інференсу компанії в хмарі клієнта, неохмарі або центрі обробки даних. Інференс і навчання відбуваються в середовищі клієнта та відповідно до його політик безпеки й контролю змін. Fireworks повідомляє, що керує понад 25 000 графічних процесорів у середовищах клієнтів.

Операційна модель розподіляє відповідальність між двома сторонами. Fireworks перевіряє кластер на відповідність вимогам, розгортає моделі та відповідає за оновлення, моніторинг, оптимізацію продуктивності й реагування на інциденти, а клієнт зберігає право власності на архітектуру та політики. Клієнти керують вхідним трафіком, балансуванням навантаження, DNS, сертифікатами TLS і схваленими маршрутами вихідного трафіку. Площина керування Fireworks використовує окремі облікові дані, які можна перевірити під час аудиту; вихідний трафік обмежено завантаженням ваг моделей та образів, а також операційною телеметрією.

За словами Fireworks, Sovereign забезпечує на 20%–50% більшу пропускну здатність на тому самому обладнанні та приблизно у 2,3 раза більше токенів на долар вартості обладнання. За бажанням можна налаштувати гібридне перенаправлення надлишкового навантаження: коли кластер досягає межі своїх можливостей, відповідні робочі навантаження переміщуються до Fireworks Cloud у схвалених клієнтом регіонах, а зі зниженням попиту повертаються на GPU клієнта; для цього використовується той самий API.

Лінійка Forge об’єднує вибір моделей, економічну ефективність інференсу та контроль над інфраструктурою в межах одного корпоративного рішення. Головне застереження полягає в тому, що кожен варіант має свої умови експлуатації: безсерверні адаптери не потребують виділених ресурсів, але працюють на спільних GPU без гарантій щодо затримки під час попереднього доступу, тоді як Sovereign поєднує інфраструктуру у власності клієнта зі стеком обслуговування моделей, яким керує Fireworks.