Fireworks zapowiada szybsze wnioskowanie dla agentów i suwerenne wdrożenia

Fireworks zapowiedziało 3 listopada 2026 r. podczas pierwszej dorocznej konferencji Forge serię produktów AI dla przedsiębiorstw. Główną nowością jest publiczna wersja zapoznawcza Ultra-fast do wnioskowania, która — jak podaje firma — osiąga prędkość do 1 500 tokenów na sekundę w modelu DeepSeek V4.1 Flash. Zaprezentowano również narzędzia do routingu modeli, ewaluacji i wyspecjalizowanego ich udostępniania oraz prywatną wersję zapoznawczą rozwiązania Fireworks Sovereign, przeznaczonego do infrastruktury należącej do klientów.

Dopasowanie szybkości wnioskowania i kosztów do obciążenia

Ultra-fast jest dostępne w publicznej wersji zapoznawczej na procesorach graficznych NVIDIA Blackwell i przeznaczone dla agentów wykonujących zadania wieloetapowe, w których każde wywołanie modelu wydłuża oczekiwanie na wynik. Fireworks poinformowało, że dzięki Ultra-fast czas wykonania zadania w teście porównawczym agentów obejmującym 30 tur skrócił się z jednej minuty do ośmiu sekund. Funkcja jest przeznaczona do zadań wymagających szybkiej realizacji; w przypadku zadań, które mogą poczekać, dostępne są tańsze opcje.

W przypadku zadań, w których opóźnienie nie stanowi problemu, tryb Background Mode wykonuje kwalifikujące się zadania — takie jak generowanie danych do ewaluacji i nocne badania — za połowę ceny. Funkcja Multi-day Prompt Caching pozwala ograniczyć koszty wielokrotnie wykorzystywanego kontekstu. Wyższe limity zapytań w usłudze serverless oraz Elastic Burst są ogólnie dostępne dla większych obciążeń. Elastic Burst może przekroczyć zwykły limit wykorzystania klienta, jeśli dostępne są wolne zasoby — bez zmian w kodzie ani cenach.

Benchmark Fireworks z 14 września 2026 r. dla modelu DeepSeek V4.1 Flash pokazuje, dlaczego wielokrotne wykorzystywanie kontekstu ma znaczenie. W teście DeepSWE 99,6% tokenów wejściowych pochodziło z pamięci podręcznej, a opłaty za tokeny odczytane z pamięci podręcznej stanowiły 60% rachunku. Zestawienie to wskazuje, że wielokrotnie wykorzystywany kontekst jest istotnym celem optymalizacji kosztów w przypadku agentów działających przez długi czas, zamiast traktować generowane dane wyjściowe jako jedyne źródło wydatków.

Ta sama kwestia kosztów dotyczy specjalizacji modeli. Ember-1, udostępniony 23 września 2026 r. w wersji zapoznawczej Research Preview jako usługa serverless, zużył w testach Fireworks około 40% mniej tokenów niż Kimi K3, zapewniając porównywalną jakość. Jest dostępny we wdrożeniach serverless i dedykowanych.

Nexus Desktop i ceny subskrypcji

Fireworks Nexus kieruje zapytania do modeli otwartych i zamkniętych w ramach używanych już narzędzi do programowania i współpracy, dobierając modele do użytkownika i uwzględniając pamięć podręczną. Rozwiązanie zapewnia też organizacjom scentralizowany wgląd w wydatki i narzędzia do ich kontrolowania. Nexus Desktop zadebiutował obok istniejącego już Nexus CLI; Nexus działa w aplikacji Codex, Claude Desktop i OpenCode.

Nowe plany Nexus Pro zaczynają się od 8 USD miesięcznie, a plany Teams — od 10 USD miesięcznie za stanowisko. Plany Enterprise obejmują dodatkowo jednokrotne logowanie, funkcje zarządzania, wspólne budżety i mechanizmy kontroli dostępu.

Dokumentacja Nexus Desktop wymienia uniwersalną wersję systemu macOS dla komputerów Mac z układami Apple silicon i procesorami Intel; obsługa systemów Linux i Windows ma pojawić się wkrótce. CLI działa w systemach macOS i Linux, a obsługa Windows jest ograniczona i wymaga Git Bash. Z aplikacją Desktop można połączyć ChatGPT, Claude Code, Cursor IDE, VS Code i OpenCode, natomiast obsługę Claude Desktop określono jako ograniczoną.

Ewaluacja i wyspecjalizowane udostępnianie modeli

No Eval, dostępne obecnie w prywatnej wersji zapoznawczej, wykorzystuje ślady z systemów produkcyjnych i sygnały z produktów do tworzenia ewaluacji dla konkretnych zadań. Ewaluacje mają ujawniać słabości modeli i pokazywać, czy można je wyeliminować w ramach późniejszego trenowania. Rozwiązanie odpowiada na potrzebę wykonania prac, które w przeciwnym razie mogą wymagać tygodni etykietowania i oceniania danych.

Specialized Model Inference udostępniono w publicznej wersji zapoznawczej, umożliwiającej serwowanie adapterów LoRA we współdzielonej puli serverless Fireworks; początkowo obsługiwany jest model GLM 5.3 Flash. Klienci płacą za tokeny według stawki serverless modelu bazowego, bez konieczności tworzenia wdrożenia. Załadowanie adaptera, utrzymywanie go w pamięci ani czas bezczynności nie wiążą się z opłatą za serwowanie, natomiast trenowanie jest rozliczane osobno.

Udokumentowane stawki dla GLM 5.3 Flash wynoszą 0,15 USD za milion tokenów wejściowych, 0,03 USD za milion tokenów wejściowych z pamięci podręcznej i 0,50 USD za milion tokenów wyjściowych.

Wersja zapoznawcza obsługuje maksymalną rangę LoRA równą 64 oraz do trzech załadowanych adapterów na konto dla modelu bazowego. Według dokumentacji ładowanie trwa mniej niż pięć minut, pierwsze zapytanie może zająć do jednej minuty, a kolejne są obsługiwane z opóźnieniem zbliżonym do opóźnienia modelu bazowego. W okresie wersji zapoznawczej nie są gwarantowane żadne parametry opóźnienia.

Adaptery działają na procesorach graficznych współdzielonych z adapterami innych klientów. W przypadku obciążeń wymagających stałego opóźnienia, odizolowanych procesorów graficznych, określonego regionu lub serwowania z wyższą precyzją zalecane są wdrożenia dedykowane; usługa serverless jest przeznaczona do eksperymentów i zmiennego ruchu.

Kontrola w przedsiębiorstwach i suwerenne wdrożenia

Zarządzanie modelami, kontrola wydatków i eksportowalne dzienniki audytowe są teraz ogólnie dostępne. Scentralizowane zarządzanie kontami, regionalna kontrola danych i szyfrowanie zarządzane przez klienta pozostają w fazie testów.

Fireworks Sovereign, dostępne w prywatnej wersji zapoznawczej, uruchamia silnik wnioskowania firmy w chmurze klienta, u dostawcy usług chmurowych nowej generacji lub w centrum danych klienta. Wnioskowanie i trenowanie odbywają się w środowisku klienta, zgodnie z jego zasadami bezpieczeństwa i kontroli zmian. Fireworks informuje, że zarządza ponad 25 000 procesorów graficznych w środowiskach klientów.

Model operacyjny dzieli odpowiedzialność między obie strony. Fireworks kwalifikuje klaster, wdraża modele oraz odpowiada za aktualizacje, monitorowanie, optymalizację wydajności i reagowanie na incydenty, a klient zachowuje kontrolę nad architekturą i zasadami. Klienci zarządzają ruchem przychodzącym, równoważeniem obciążenia, DNS, certyfikatami TLS i zatwierdzonymi trasami ruchu wychodzącego. Płaszczyzna sterowania Fireworks korzysta z dedykowanych, podlegających audytowi danych uwierzytelniających, a ruch wychodzący ogranicza się do pobierania wag modeli i obrazów oraz telemetrii operacyjnej.

Fireworks informuje, że Sovereign zapewnia o 20%–50% większą przepustowość na identycznym sprzęcie oraz około 2,3 raza więcej tokenów na każdego dolara wydanego na sprzęt. Opcjonalne, hybrydowe przełączanie obciążenia przenosi kwalifikujące się zadania do Fireworks Cloud w zatwierdzonych przez klienta regionach, gdy klaster osiąga maksymalną wydajność, a następnie przenosi je z powrotem na procesory GPU klienta, gdy zapotrzebowanie spada. W obu przypadkach używane jest to samo API.

Oferta Forge sprawia, że wybór modelu, ekonomika wnioskowania i kontrola nad infrastrukturą stają się elementami tej samej decyzji biznesowej. Kluczowe zastrzeżenie jest takie, że każda opcja wiąże się z innymi warunkami działania: adaptery bezserwerowe pozwalają uniknąć dedykowanych zasobów, ale działają na współdzielonych procesorach GPU i w okresie testów wstępnych nie gwarantują określonych opóźnień, natomiast Sovereign łączy infrastrukturę należącą do klienta ze stosem do obsługi modeli zarządzanym przez Fireworks.