Fireworks představuje rychlejší inferenci agentů a suverénní nasazení

Fireworks představil 3. listopadu 2026 na své první výroční konferenci Forge řadu podnikových produktů s umělou inteligencí. Hlavním z nich bylo veřejné preview inference Ultra-fast, která podle společnosti dosahuje až 1 500 tokenů za sekundu u DeepSeek V4.1 Flash. Součástí nabídky jsou také nástroje pro směrování modelů, vyhodnocování a specializované poskytování modelů a soukromé preview služby Fireworks Sovereign pro infrastrukturu vlastněnou zákazníkem.

Přizpůsobení rychlosti inference a nákladů typu úlohy

Ultra-fast je ve veřejném preview na GPU NVIDIA Blackwell a je navržena pro vícekrokové agenty, u nichž každé volání modelu prodlužuje čekání na výsledek. Fireworks uvedl, že s Ultra-fast se doba dokončení jeho benchmarku agentů s 30 tahy zkrátila z jedné minuty na osm sekund. Tato funkce je určena pro časově citlivé úlohy, zatímco pro úlohy, které mohou počkat, jsou k dispozici levnější možnosti.

Pro úlohy, u nichž zpoždění nevadí, spouští Background Mode způsobilé úlohy, například generování dat pro vyhodnocování a noční výzkum, za poloviční cenu. Funkce Multi-day Prompt Caching cílí na náklady spojené s opakovaným kontextem. Vyšší limity požadavků serverless a Elastic Burst jsou obecně dostupné pro větší zátěž; Elastic Burst může při dostupné volné kapacitě překročit běžný limit využití zákazníka, aniž by bylo nutné měnit kód nebo ceny.

Benchmark společnosti Fireworks z 14. září 2026 pro DeepSeek V4.1 Flash ukazuje, proč je opakovaný kontext důležitý. Při běhu DeepSWE bylo 99,6 % vstupních tokenů obsaženo v mezipaměti a poplatky za tokeny z mezipaměti tvořily 60 % účtu. Tento rozpis ukazuje, že opakovaný kontext představuje významnou příležitost ke snížení nákladů u dlouho běžících agentů, místo aby se za jediný zdroj výdajů považoval generovaný výstup.

Stejný důraz na náklady se vztahuje i na specializaci modelů. Ember-1, uvedený 23. září 2026 jako serverless Research Preview, spotřeboval při srovnatelné kvalitě v hodnoceních Fireworks přibližně o 40 % méně tokenů než Kimi K3. Je dostupný v serverless i dedikovaných nasazeních.

Nexus Desktop a ceny předplatného

Fireworks Nexus směruje požadavky mezi otevřenými a uzavřenými modely v rámci stávajících nástrojů pro programování a spolupráci a využívá personalizovaný výběr modelů i informace o mezipaměti. Organizacím také centralizuje přehled o výdajích a jejich řízení. Nexus Desktop byl uveden současně s již existujícím Nexus CLI; Nexus funguje v aplikaci Codex, Claude Desktop a OpenCode.

Nové tarify Nexus Pro začínají na 8 $ měsíčně, zatímco tarify Teams začínají na 10 $ za jednoho uživatele měsíčně. Podnikové tarify navíc zahrnují jednotné přihlašování, správu pravidel, sdílené rozpočty a řízení přístupu.

Dokumentace k Nexus Desktop uvádí univerzální sestavení pro macOS určené pro počítače Mac s čipy Apple silicon i procesory Intel; podpora Linuxu a Windows bude brzy k dispozici. CLI funguje v systému macOS a Linux, zatímco podpora Windows je omezená a vyžaduje Git Bash. Desktopová připojení zahrnují ChatGPT, Claude Code, Cursor IDE, VS Code a OpenCode, přičemž podpora Claude Desktop je podle popisu omezená.

Vyhodnocování a specializované poskytování modelů

No Eval, nyní v soukromém preview, využívá záznamy z produkčních systémů a signály z produktů k tvorbě vyhodnocení pro konkrétní úlohy. Cílem těchto vyhodnocení je odhalit slabiny modelů a ukázat, zda je následný trénink odstraní. Řeší tak práci, která by jinak mohla vyžadovat týdny označování a hodnocení dat.

Specializované inferování modelů vstoupilo do veřejného preview pro poskytování adaptérů LoRA ve sdíleném serverless fondu Fireworks, zpočátku s modelem GLM 5.3 Flash. Zákazníci platí za token podle serverless sazby základního modelu, aniž by museli vytvářet nasazení. Za načtení adaptéru, dobu, po kterou zůstává načtený, ani dobu nečinnosti se neúčtuje poplatek za poskytování; trénink se účtuje samostatně.

U modelu GLM 5.3 Flash činí uváděné sazby 0,15 $ za milion vstupních tokenů, 0,03 $ za milion vstupních tokenů z mezipaměti a 0,50 $ za milion výstupních tokenů.

Preview podporuje maximální rank LoRA 64 a až tři načtené adaptéry základního modelu na jeden účet. Fireworks uvádí, že načtení trvá méně než pět minut, první požadavek může trvat až jednu minutu a další požadavky mají přibližnou latenci základního modelu; během preview nejsou latence nijak zaručeny.

Adaptéry běží na GPU sdílených s adaptéry dalších zákazníků. Pro úlohy vyžadující konzistentní latenci, izolované GPU, konkrétní region nebo poskytování s vyšší přesností se doporučuje dedikované nasazení; serverless je určen pro experimentování a nárazový provoz.

Podnikové řízení a suverénní nasazení

Správa modelů, kontrola výdajů a exportovatelné auditní protokoly jsou nyní obecně dostupné. Centralizovaná správa účtů, regionální řízení dat a šifrování spravované zákazníkem zůstávají ve fázi preview.

Fireworks Sovereign, které je v soukromém preview, provozuje inferenční engine společnosti v cloudu zákazníka, u poskytovatele neocloudu nebo v jeho datovém centru. Inference i trénink zůstávají v prostředí zákazníka a podléhají jeho bezpečnostním zásadám a pravidlům řízení změn. Fireworks uvádí, že v prostředích zákazníků spravuje více než 25 000 GPU.

Provozní model rozděluje odpovědnost mezi obě strany. Fireworks ověřuje cluster, nasazuje modely a zajišťuje aktualizace, monitorování, ladění výkonu i reakci na incidenty, zatímco zákazník si ponechává kontrolu nad architekturou a zásadami. Zákazníci spravují příchozí provoz, vyvažování zátěže, DNS, certifikáty TLS a schválené odchozí trasy. Řídicí rovina Fireworks používá vyhrazené přihlašovací údaje, jejichž použití lze auditovat; odchozí provoz je omezen na stahování vah modelů a obrazů a na provozní telemetrii.

Fireworks uvádí, že Sovereign dosahuje na totožném hardwaru o 20 % až 50 % vyšší propustnosti a přibližně 2,3krát více tokenů na dolar vynaložený na hardware. Volitelné hybridní přesměrování při přetížení přesouvá vhodné úlohy do Fireworks Cloud v zákazníkem schválených regionech a s poklesem poptávky je vrací na GPU zákazníka; používá se přitom stejné API.

Nabídka Forge začleňuje výběr modelu, ekonomiku inference a kontrolu nad infrastrukturou do jediného podnikového rozhodnutí. Klíčové upozornění spočívá v tom, že každá možnost má jiné provozní podmínky: bezserverové adaptéry nevyžadují vyhrazenou kapacitu, ale běží na sdílených GPU bez záruk latence ve fázi náhledu, zatímco Sovereign spojuje infrastrukturu vlastněnou zákazníkem s obslužným stackem provozovaným společností Fireworks.