Fireworks julkistaa nopeamman agenttien inferenssin ja suvereenin käyttöönoton

Fireworks julkisti yrityksille suunnatun tekoälytuotevalikoiman 3. marraskuuta 2026 ensimmäisessä vuotuisessa Forge-konferenssissaan. Keskeisenä julkistuksena oli Ultra-fast-inferenssin esikatselu, jonka kerrotaan saavuttaneen DeepSeek V4.1 Flashilla jopa 1 500 tokenia sekunnissa. Lisäksi esiteltiin työkaluja mallien reititykseen, arviointiin ja erikoistuneeseen tarjoamiseen sekä yksityinen esikatselu tuotteesta Fireworks Sovereign, joka on tarkoitettu asiakkaiden omassa infrastruktuurissa käytettäväksi.

Inferenssin nopeuden ja kustannusten sovittaminen työkuormaan

Ultra-fast on julkisessa esikatselussa NVIDIA Blackwell -näytönohjaimilla. Se on suunniteltu monivaiheisille agenteille, joiden jokainen mallikutsu pidentää tuloksen odotusaikaa. Fireworks kertoi, että sen 30 kierroksen agenttivertailutestin suoritusaika lyheni Ultra-fastin ansiosta minuutista kahdeksaan sekuntiin. Ominaisuus on suunnattu aikakriittisiin töihin, kun taas odottamaan pystyville tehtäville on tarjolla edullisempia vaihtoehtoja.

Viivettä sietävissä töissä Background Mode suorittaa siihen soveltuvia tehtäviä, kuten arviointidatan tuottamista ja yön yli jatkuvaa tutkimusta, puoleen hintaan. Usean päivän Prompt Caching -välimuistitoiminto auttaa pienentämään toistuvan kontekstin kustannuksia. Palvelimettoman käytön korkeammat nopeusrajat ja Elastic Burst ovat yleisesti saatavilla vilkkaampiin työkuormiin. Elastic Burst voi ylittää asiakkaan tavanomaisen käyttörajan, kun kapasiteettia on vapaana, ilman koodiin tai hinnoitteluun tehtäviä muutoksia.

Fireworksin 14. syyskuuta 2026 tekemä DeepSeek V4.1 Flash -vertailutesti osoittaa, miksi toistuvalla kontekstilla on merkitystä. DeepSWE-ajossa 99,6 % syötetokeneista osui välimuistiin, ja välimuistiosumista veloitetut maksut muodostivat 60 % laskusta. Erittely nostaa toistuvan kontekstin merkittäväksi kustannusten hallinnan kohteeksi pitkäkestoisissa agenteissa sen sijaan, että kulujen ainoana lähteenä pidettäisiin tuotettua tulostetta.

Sama kustannusten hallinnan tavoite koskee myös mallien erikoistamista. Ember-1, joka esiteltiin 23. syyskuuta 2026 palvelimettomana tutkimusesikatseluna, käytti Fireworksin arvioinneissa noin 40 % vähemmän tokeneita kuin Kimi K3 laadun pysyessä vertailukelpoisena. Se on saatavilla sekä palvelimettomissa että omissa käyttöönottoympäristöissä.

Nexus Desktop ja tilausmaksut

Fireworks Nexus reitittää avoimien ja suljettujen mallien välillä olemassa olevissa koodaus- ja yhteistyötyökaluissa hyödyntäen personoitua mallinvalintaa ja välimuistitietoisuutta. Se kokoaa myös organisaatioiden kuluseurannan ja hallintatoiminnot yhteen. Nexus Desktop julkaistiin jo olemassa olevan Nexus CLI:n rinnalla. Nexus toimii Codex-sovelluksessa, Claude Desktopissa ja OpenCodessa.

Uudet Nexus Pro -tilaukset maksavat alkaen 8 dollaria kuukaudessa, ja Teams-tilaukset alkaen 10 dollaria käyttäjää kohden kuukaudessa. Enterprise-tilauksiin sisältyvät kertakirjautuminen, hallintatoiminnot, jaetut budjetit ja käyttöoikeuksien hallinta.

Nexus Desktopin dokumentaatiossa mainitaan yleiskäyttöinen macOS-versio Apple silicon- ja Intel-Mac-tietokoneille. Linux- ja Windows-tuki on tulossa pian. CLI toimii macOS- ja Linux-käyttöjärjestelmissä, ja Windows-tuki on rajallinen Git Bashin kautta. Työpöytäsovelluksen yhteyksiin kuuluvat ChatGPT, Claude Code, Cursor IDE, VS Code ja OpenCode, kun taas Claude Desktopin tukea kuvataan rajalliseksi.

Arviointi ja erikoistunut mallien inferenssi

Nyt yksityisessä esikatselussa oleva No Eval hyödyntää tuotantojärjestelmien jälkiä ja tuotteista saatavia signaaleja tiettyjen tehtävien arviointien rakentamiseen. Arviointien tarkoituksena on tuoda esiin mallien heikkouksia ja osoittaa, korjaako myöhempi koulutus ne. Näin pyritään vähentämään työtä, joka voi muuten vaatia viikkojen datan annotointia ja arviointia.

Erikoistunut mallien inferenssi siirtyi julkiseen esikatseluun: sen avulla LoRA-sovittimia voidaan käyttää Fireworksin jaetussa palvelimettomassa kapasiteetissa, aluksi GLM 5.3 Flash -mallilla. Asiakkaat maksavat tokeneittain perusmallin palvelimettoman käytön hinnan ilman, että heidän tarvitsee luoda käyttöönottoa. Sovittimen lataamisesta, sen pitämisestä ladattuna tai joutoajasta ei veloiteta tarjoamisesta, kun taas koulutus laskutetaan erikseen.

GLM 5.3 Flashin dokumentoidut hinnat ovat 0,15 dollaria miljoonaa syötetokenia kohden, 0,03 dollaria miljoonaa välimuistista toimitettua syötetokenia kohden ja 0,50 dollaria miljoonaa tulostetokenia kohden.

Esikatselu tukee enintään 64:n LoRA-rankkia ja enintään kolmea perusmallille ladattua sovitinta tiliä kohden. Fireworksin mukaan lataaminen kestää alle viisi minuuttia, ensimmäinen pyyntö voi kestää jopa minuutin ja myöhemmät pyynnöt toimivat suunnilleen perusmallin viiveellä. Esikatselun aikana viiveelle ei anneta takuita.

Sovittimet toimivat näytönohjaimilla, joita jaetaan muiden asiakkaiden sovittimien kanssa. Omat käyttöönotot ovat suositeltava vaihtoehto työkuormiin, joissa tarvitaan tasaista viivettä, eristettyjä näytönohjaimia, tiettyä aluetta tai tarkempaa tarjoilua. Palvelimetön käyttö on suunnattu kokeiluun ja vaihteleviin liikennemääriin.

Yritystason hallinta ja suvereeni käyttöönotto

Mallien hallintatoiminnot, kulujen hallinta ja vietävät tarkastuslokit ovat nyt yleisesti saatavilla. Keskitetty tilinhallinta, alueelliset datanhallintatoiminnot ja asiakkaan hallinnoima salaus ovat edelleen esikatselussa.

Yksityisessä esikatselussa oleva Fireworks Sovereign käyttää yhtiön inferenssimoottoria asiakkaan pilvipalvelussa, neopilvessä tai datakeskuksessa. Inferenssi ja koulutus pysyvät asiakkaan ympäristössä ja sen tietoturva- ja muutoksenhallintakäytäntöjen alaisina. Fireworks kertoo hallinnoivansa asiakkaiden ympäristöissä yli 25 000:ta näytönohjainta.

Toimintamallissa vastuut jaetaan osapuolten kesken. Fireworks tarkistaa klusterin soveltuvuuden, ottaa mallit käyttöön ja huolehtii päivityksistä, valvonnasta, suorituskyvyn virityksestä ja häiriötilanteisiin reagoinnista, kun taas asiakas omistaa arkkitehtuurin ja määrittää käytännöt. Asiakkaat hallinnoivat sisään tulevaa liikennettä, kuormantasausta, DNS:ää, TLS-varmenteita ja hyväksyttyjä ulospäin suuntautuvia reittejä. Fireworksin ohjaustaso käyttää erillistä, auditoitavaa tunnistetietoa, ja ulospäin suuntautuva liikenne rajoittuu mallipainojen ja levykuvien noutamiseen sekä toiminnan telemetriatietoihin.

Fireworksin mukaan Sovereign tarjoaa samalla laitteistolla 20–50 % suuremman läpimenon ja noin 2,3 kertaa enemmän tokeneita laitteistoon käytettyä dollaria kohden. Valinnainen hybridiratkaisu siirtää soveltuvat työkuormat Fireworks Cloudiin asiakkaan hyväksymillä alueilla klusterin täyttyessä ja palauttaa ne sitten asiakkaan grafiikkasuorittimille kysynnän laskiessa. Siirroissa käytetään samaa ohjelmointirajapintaa.

Forge-tuotevalikoimassa mallivalinta, päättelyn kustannustehokkuus ja infrastruktuurin hallinta ovat osa samaa yritystason päätöstä. Keskeinen huomio on, että kuhunkin vaihtoehtoon liittyy erilaiset toimintaehdot: palvelimettomat sovittimet eivät vaadi erillistä kapasiteettia, mutta toimivat jaetuilla grafiikkasuorittimilla ilman ennakkoversion aikaisia viivetakuita, kun taas Sovereign yhdistää asiakkaan omistaman infrastruktuurin Fireworksin ylläpitämään mallien tarjoilupinoon.