Fireworks presenterar snabbare agentinferens och suverän driftsättning

Fireworks presenterade en rad företagsprodukter inom AI den 3 november 2026 på sin första årliga Forge-konferens. I centrum stod en förhandsversion av Ultra-fast-inferens, som enligt företaget nådde upp till 1 500 token per sekund med DeepSeek V4.1 Flash. Därutöver presenterades verktyg för modellroutning, utvärdering och specialiserad inferens samt en privat förhandsversion av Fireworks Sovereign för infrastruktur som ägs av kunden.

Anpassa inferenshastighet och kostnad efter arbetsbelastningen

Ultra-fast är tillgängligt som offentlig förhandsversion på NVIDIA Blackwell-GPU:er och är utformat för agenter med flera steg, där varje modellanrop förlänger väntetiden på ett resultat. Fireworks uppgav att genomförandetiden för företagets agentbenchmark med 30 turer sjönk från en minut till åtta sekunder med Ultra-fast. Funktionen riktar sig till tidskänsliga arbetsuppgifter, medan billigare alternativ finns för sådant som kan vänta.

För arbete där fördröjning inte är något problem kör Bakgrundsläget kvalificerade uppgifter, till exempel generering av utvärderingsdata och forskning som utförs över natten, till halva priset. Promptcachelagring över flera dagar syftar till att minska kostnaden för återkommande kontext. Högre hastighetsgränser för serverlösa tjänster och Elastic Burst är nu allmänt tillgängliga för arbetsbelastningar med högre trafik. Elastic Burst kan överskrida kundens normala användningstak när det finns ledig kapacitet, utan ändringar i kod eller prissättning.

Ett Fireworks-benchmark av DeepSeek V4.1 Flash från den 14 september 2026 visar varför återkommande kontext spelar roll. I körningen med DeepSWE var 99,6 % av indatatokenen cacheträffar, och avgifterna för cacheträffar utgjorde 60 % av fakturan. Den fördelningen visar att återkommande kontext är en betydande kostnadsfaktor för långvariga agenter, i stället för att utdata som genereras betraktas som den enda utgiften.

Samma kostnadsfokus gäller specialiserade modeller. Ember-1, som presenterades den 23 september 2026 som en serverlös forskningsförhandsversion, använde omkring 40 % färre token än Kimi K3 vid jämförbar kvalitet i Fireworks utvärderingar. Modellen finns tillgänglig för serverlös drift och i dedikerade driftsättningar.

Nexus Desktop och abonnemangspriser

Fireworks Nexus dirigerar mellan öppna och slutna modeller i befintliga kodnings- och samarbetsverktyg med hjälp av personligt anpassat modellval och cachemedvetenhet. Tjänsten samlar också organisationers insyn i utgifter och kontrollfunktioner på ett ställe. Nexus Desktop lanserades tillsammans med det befintliga Nexus CLI, och Nexus körs i Codex-appen, Claude Desktop och OpenCode.

De nya Nexus Pro-abonnemangen börjar på 8 dollar i månaden, medan Teams-abonnemangen börjar på 10 dollar per användare och månad. Enterprise-abonnemangen omfattar enkel inloggning, styrning, gemensamma budgetar och åtkomstkontroller.

Dokumentationen för Nexus Desktop anger att en universell macOS-version för Apple Silicon och Intel Mac finns, och att stöd för Linux och Windows kommer snart. CLI körs på macOS och Linux, med begränsat Windows-stöd via Git Bash. Desktop-anslutningar omfattar ChatGPT, Claude Code, Cursor IDE, VS Code och OpenCode, medan stödet för Claude Desktop beskrivs som begränsat.

Utvärdering och specialiserad modelldrift

No Eval, som nu finns i privat förhandsversion, använder spår från produktionssystem och signaler från produkter för att skapa utvärderingar av specifika uppgifter. Utvärderingarna ska synliggöra modellernas svagheter och visa om senare träning åtgärdar dem. Därmed hanteras arbete som annars kan kräva veckor av datamärkning och bedömning.

Specialiserad modellinferens blev tillgänglig i offentlig förhandsversion för drift av LoRA-adaptrar i Fireworks delade serverlösa pool, till att börja med med GLM 5.3 Flash. Kunder betalar per token enligt basmodellens serverlösa pris, utan att behöva skapa en driftsättning. Det tillkommer ingen avgift för att läsa in en adapter, hålla den inläst eller för inaktiv tid, medan träning faktureras separat.

De angivna priserna för GLM 5.3 Flash är 0,15 dollar per miljon indatatoken, 0,03 dollar per miljon cachelagrade indatatoken och 0,50 dollar per miljon utdatatoken.

Förhandsversionen stöder en maximal LoRA-rang på 64 och upp till tre inlästa adaptrar per konto för basmodellen. Enligt Fireworks tar inläsningen under fem minuter, den första förfrågan kan ta upp till en minut och efterföljande förfrågningar har ungefär samma latens som basmodellen. Under förhandsversionen lämnas inga garantier för latensen.

Adaptrarna körs på GPU:er som delas med andra kunders adaptrar. Dedikerade driftsättningar rekommenderas för arbetsbelastningar som kräver jämn latens, isolerade GPU:er, en specifik region eller inferens med högre precision. Serverlös drift riktar sig till experiment och trafik med kraftiga toppar.

Företagskontroller och suverän driftsättning

Modellstyrning, utgiftskontroller och exporterbara granskningsloggar är nu allmänt tillgängliga. Centraliserad kontohantering, regional datakontroll och kundhanterad kryptering är fortfarande i förhandsversion.

Fireworks Sovereign, som finns i privat förhandsversion, kör företagets inferensmotor i kundens moln, neomoln eller datacenter. Inferens och träning stannar inom kundens miljö och omfattas av kundens säkerhets- och ändringskontrollpolicyer. Fireworks uppger att företaget hanterar mer än 25 000 GPU:er i kundmiljöer.

Driftsmodellen fördelar ansvaret mellan de två parterna. Fireworks kvalificerar klustret, driftsätter modeller och hanterar uppgraderingar, övervakning, prestandaoptimering och incidenthantering, medan kunden behåller äganderätten till arkitekturen och policyerna. Kunderna hanterar inkommande trafik, lastbalansering, DNS, TLS-certifikat och godkända utgående anslutningsvägar. Fireworks kontrollplan använder en särskild, granskningsbar autentiseringsuppgift, och den utgående trafiken begränsas till hämtning av modellvikter och avbildningar samt operativ telemetri.

Fireworks uppger att Sovereign ger 20 % till 50 % högre genomströmning på identisk maskinvara och cirka 2,3 gånger så många token per hårdvarudollar. Med valfri hybridavlastning flyttas kvalificerade arbetslaster till Fireworks Cloud i regioner som kunden har godkänt när ett kluster når kapacitet. När efterfrågan sjunker flyttas de tillbaka till kundens GPU:er via samma API.

Forge-sortimentet gör modellval, inferensekonomi och kontroll över infrastrukturen till delar av samma företagsbeslut. Det viktigaste förbehållet är att varje alternativ har olika driftsvillkor: serverlösa adaptrar kräver ingen dedikerad kapacitet, men körs på delade GPU:er utan latensgarantier under förhandsvisningen, medan Sovereign kombinerar kundägd infrastruktur med en stack för modellservering som drivs av Fireworks.