Fireworks annonce une inférence plus rapide pour les agents et un déploiement souverain

Fireworks a annoncé une série de produits d’IA destinés aux entreprises le 3 novembre 2026, lors de sa première conférence annuelle Forge. Parmi les nouveautés phares figure une préversion de l’inférence Ultra-fast, qui aurait atteint jusqu’à 1 500 tokens par seconde avec DeepSeek V4.1 Flash, ainsi que des outils de routage des modèles, d’évaluation et de service spécialisé, et une préversion privée de Fireworks Sovereign pour les infrastructures appartenant aux clients.

Adapter la vitesse et le coût de l’inférence à la charge de travail

Ultra-fast est disponible en préversion publique sur les GPU NVIDIA Blackwell et est conçu pour les agents à plusieurs étapes, pour lesquels chaque appel de modèle allonge le délai avant l’obtention d’un résultat. Fireworks a indiqué que, grâce à Ultra-fast, le temps d’exécution de son test de performance pour agents en 30 tours était passé d’une minute à huit secondes. Cette fonctionnalité vise les tâches sensibles au facteur temps, tandis que des options moins coûteuses sont proposées pour celles qui peuvent attendre.

Pour les tâches qui tolèrent les délais, le mode Background exécute à moitié prix les tâches admissibles, comme la génération de données d’évaluation et les recherches effectuées pendant la nuit. La mise en cache des invites sur plusieurs jours vise à réduire le coût des contextes réutilisés. Des limites de débit plus élevées pour le service sans serveur et Elastic Burst sont généralement disponibles pour les charges de travail plus importantes. Elastic Burst peut dépasser le plafond d’utilisation habituel d’un client lorsque des capacités inutilisées sont disponibles, sans modification du code ni des tarifs.

Un test de performance de Fireworks réalisé le 14 septembre 2026 avec DeepSeek V4.1 Flash montre l’importance des contextes réutilisés. Lors de son exécution de DeepSWE, 99,6 % des tokens d’entrée ont été servis depuis le cache, et les frais associés à ces accès au cache représentaient 60 % de la facture. Cette ventilation montre que les contextes réutilisés constituent un levier de réduction des coûts important pour les agents de longue durée, plutôt que de considérer la génération de sorties comme la seule source de dépenses.

La même logique de réduction des coûts s’étend à la spécialisation des modèles. Ember-1, présenté le 23 septembre 2026 en préversion de recherche sans serveur, a utilisé environ 40 % de tokens en moins que Kimi K3 à qualité comparable, selon les évaluations de Fireworks. Il est disponible sur des déploiements sans serveur et dédiés.

Nexus Desktop et tarifs des abonnements

Fireworks Nexus achemine les requêtes entre des modèles ouverts et propriétaires au sein des outils existants de programmation et de collaboration, en tenant compte de la sélection personnalisée des modèles et du cache. La solution centralise également la visibilité sur les dépenses et les contrôles destinés aux organisations. Nexus Desktop a été lancé en parallèle de l’interface en ligne de commande Nexus, déjà disponible, et Nexus fonctionne dans l’application Codex, Claude Desktop et OpenCode.

Les nouvelles offres Nexus Pro commencent à 8 $ par mois, tandis que les offres Teams commencent à 10 $ par siège et par mois. Les offres Enterprise comprennent l’authentification unique, la gouvernance, les budgets partagés et les contrôles d’accès.

La documentation de Nexus Desktop répertorie une version universelle pour macOS, compatible avec les processeurs Apple et les Mac Intel. La prise en charge de Linux et de Windows sera bientôt disponible. L’interface en ligne de commande fonctionne sous macOS et Linux, et offre une prise en charge limitée de Windows par l’intermédiaire de Git Bash. Les connexions de la version de bureau comprennent ChatGPT, Claude Code, Cursor IDE, VS Code et OpenCode, tandis que la prise en charge de Claude Desktop est décrite comme limitée.

Évaluation et service spécialisé des modèles

No Eval, désormais en préversion privée, utilise les traces des systèmes de production et les signaux des produits pour créer des évaluations adaptées à des tâches précises. Ces évaluations visent à mettre en évidence les faiblesses des modèles et à montrer si les entraînements ultérieurs permettent de les corriger, afin de répondre à des besoins qui peuvent autrement nécessiter des semaines d’annotation et de notation des données.

L’inférence de modèles spécialisés est entrée en préversion publique pour le service d’adaptateurs LoRA sur le parc partagé sans serveur de Fireworks, d’abord avec GLM 5.3 Flash. Les clients paient par token au tarif sans serveur du modèle de base, sans avoir à créer de déploiement. Le chargement d’un adaptateur, son maintien en mémoire et les périodes d’inactivité n’entraînent aucuns frais de service, tandis que l’entraînement est facturé séparément.

Pour GLM 5.3 Flash, les tarifs indiqués sont de 0,15 $ par million de tokens d’entrée, de 0,03 $ par million de tokens d’entrée mis en cache et de 0,50 $ par million de tokens de sortie.

La préversion prend en charge un rang LoRA maximal de 64 et jusqu’à trois adaptateurs chargés par compte pour le modèle de base. Fireworks indique un temps de chargement inférieur à cinq minutes, un délai pouvant atteindre une minute pour la première requête et, pour les requêtes suivantes, une latence approximativement égale à celle du modèle de base, sans garantie de latence pendant la préversion.

Les adaptateurs fonctionnent sur des GPU partagés avec ceux d’autres clients. Les déploiements dédiés sont recommandés pour les charges de travail nécessitant une latence constante, des GPU isolés, une région particulière ou un service de plus haute précision. Le service sans serveur vise l’expérimentation et les pics de trafic.

Contrôles pour les entreprises et déploiement souverain

La gouvernance des modèles, les contrôles des dépenses et les journaux d’audit exportables sont désormais généralement disponibles. La gestion centralisée des comptes, les contrôles régionaux des données et le chiffrement géré par le client restent en préversion.

Fireworks Sovereign, en préversion privée, exécute le moteur d’inférence de l’entreprise dans le cloud, le néocloud ou le centre de données du client. L’inférence et l’entraînement restent dans l’environnement du client et sont soumis à ses politiques de sécurité et de gestion des changements. Fireworks indique gérer plus de 25 000 GPU dans les environnements de ses clients.

Le modèle opérationnel répartit les responsabilités entre les deux parties. Fireworks qualifie le cluster, déploie les modèles et prend en charge les mises à niveau, la surveillance, l’optimisation des performances et la gestion des incidents, tandis que le client reste propriétaire de l’architecture et définit les politiques. Les clients gèrent les points d’entrée, l’équilibrage de charge, le DNS, les certificats TLS et les routes sortantes approuvées. Le plan de contrôle de Fireworks utilise un identifiant dédié et vérifiable, et limite le trafic sortant au téléchargement des poids des modèles et des images, ainsi qu’à la télémétrie opérationnelle.

Fireworks affirme que Sovereign offre un débit supérieur de 20 % à 50 % sur du matériel identique et environ 2,3 fois plus de jetons par dollar dépensé en matériel. En option, le basculement hybride transfère les charges de travail admissibles vers Fireworks Cloud, dans les régions approuvées par le client, lorsque le cluster atteint sa capacité, puis les renvoie vers les GPU du client quand la demande diminue, le tout avec la même API.

La gamme Forge fait du choix des modèles, du coût de l’inférence et du contrôle de l’infrastructure un seul et même enjeu pour les entreprises. La principale réserve est que chaque option s’accompagne de conditions d’exploitation différentes : les adaptateurs sans serveur évitent de mobiliser une capacité dédiée, mais fonctionnent sur des GPU partagés sans garantie de latence en préversion, tandis que Sovereign associe une infrastructure appartenant au client à une pile de services exploitée par Fireworks.