Fireworks ने एजेंट इन्फरेंस को तेज़ करने और संप्रभु तैनाती की घोषणा की

Fireworks ने घोषणा की कि 3 नवंबर, 2026 को उसके पहले वार्षिक Forge सम्मेलन में एंटरप्राइज़ एआई उत्पादों की एक श्रृंखला पेश की जाएगी। इनमें प्रमुख था Ultra-fast का पूर्वावलोकन, जिसके बारे में कंपनी का कहना है कि DeepSeek V4.1 Flash पर इसकी गति 1,500 टोकन प्रति सेकंड तक पहुँची। इसके साथ ही मॉडल रूटिंग, मूल्यांकन और विशिष्ट सेवाएँ उपलब्ध कराने वाले टूल तथा ग्राहक के स्वामित्व वाले बुनियादी ढाँचे के लिए Fireworks Sovereign का निजी पूर्वावलोकन भी शामिल था।

कार्यभार के अनुरूप इन्फरेंस की गति और लागत

Ultra-fast, NVIDIA Blackwell GPU पर सार्वजनिक पूर्वावलोकन में उपलब्ध है और इसे कई चरणों में काम करने वाले एजेंटों के लिए बनाया गया है, जहाँ हर मॉडल कॉल से नतीजे की प्रतीक्षा बढ़ जाती है। Fireworks ने बताया कि उसके 30-चरणीय एजेंट बेंचमार्क में काम पूरा होने का समय Ultra-fast के साथ एक मिनट से घटकर आठ सेकंड रह गया। यह सुविधा समय-संवेदी कामों के लिए है, जबकि ऐसे कामों के लिए कम लागत वाले विकल्प मौजूद हैं जिनके लिए प्रतीक्षा की जा सकती है।

जिन कामों में देरी स्वीकार्य है, उनके लिए Background Mode पात्र कार्यों—जैसे मूल्यांकन डेटा तैयार करना और रातभर का शोध—को आधी कीमत पर चलाता है। कई दिनों तक काम करने वाली Prompt Caching सुविधा का लक्ष्य बार-बार इस्तेमाल होने वाले संदर्भ की लागत घटाना है। अधिक व्यस्त कार्यभार के लिए सर्वरलेस उपयोग की ऊँची दर-सीमाएँ और Elastic Burst आम तौर पर उपलब्ध हैं। अतिरिक्त क्षमता होने पर Elastic Burst ग्राहक की सामान्य उपयोग-सीमा से आगे जा सकता है—इसके लिए कोड या मूल्य निर्धारण में बदलाव की ज़रूरत नहीं होती।

14 सितंबर, 2026 को DeepSeek V4.1 Flash पर किया गया Fireworks का बेंचमार्क दिखाता है कि संदर्भ को बार-बार इस्तेमाल करना क्यों मायने रखता है। उसके DeepSWE परीक्षण में इनपुट टोकन के 99.6% कैश हिट थे और कैश हिट के शुल्क कुल बिल का 60% थे। यह विवरण बताता है कि लंबे समय तक चलने वाले एजेंटों में बार-बार इस्तेमाल होने वाला संदर्भ लागत घटाने का एक अहम लक्ष्य है; खर्च का एकमात्र स्रोत तैयार किया गया आउटपुट नहीं है।

मॉडल को विशिष्ट कामों के लिए ढालने में भी लागत घटाने की यही बात लागू होती है। Ember-1, जिसे 23 सितंबर, 2026 को सर्वरलेस शोध पूर्वावलोकन के रूप में पेश किया गया था, ने Fireworks के मूल्यांकनों में तुलनीय गुणवत्ता के साथ Kimi K3 की तुलना में लगभग 40% कम टोकन इस्तेमाल किए। यह सर्वरलेस और समर्पित, दोनों तरह की तैनाती में उपलब्ध है।

Nexus Desktop और सदस्यता मूल्य निर्धारण

Fireworks Nexus, मौजूदा कोडिंग और सहयोगी कार्य टूल के भीतर खुले और बंद मॉडलों के बीच अनुरोधों को रूट करता है और इसके लिए व्यक्तिगत ज़रूरतों के अनुरूप मॉडल चयन तथा कैश की जानकारी का उपयोग करता है। यह संगठनों के लिए खर्च की दृश्यता और नियंत्रण को भी एक जगह उपलब्ध कराता है। मौजूदा Nexus CLI के साथ Nexus Desktop भी लॉन्च किया गया; Nexus, Codex ऐप, Claude Desktop और OpenCode में चलता है।

नई Nexus Pro योजनाओं की कीमत $8 प्रति माह से शुरू होती है, जबकि Teams योजनाओं की कीमत $10 प्रति सीट प्रति माह से शुरू होती है। Enterprise योजनाओं में एकल साइन-ऑन, शासन-व्यवस्था, साझा बजट और पहुँच नियंत्रण शामिल हैं।

Nexus Desktop के दस्तावेज़ में Apple silicon और Intel Mac के लिए macOS का एक सार्वभौमिक बिल्ड दिया गया है; Linux और Windows का समर्थन जल्द आने वाला है। CLI, macOS और Linux पर चलता है और Git Bash के माध्यम से Windows को सीमित समर्थन देता है। डेस्कटॉप कनेक्शन में ChatGPT, Claude Code, Cursor IDE, VS Code और OpenCode शामिल हैं, जबकि Claude Desktop के समर्थन को सीमित बताया गया है।

मूल्यांकन और विशिष्ट मॉडल सेवाएँ

No Eval, जो अब निजी पूर्वावलोकन में है, विशिष्ट कार्यों के लिए मूल्यांकन तैयार करने हेतु उत्पादन प्रणालियों के ट्रेस और उत्पादों से मिले संकेतों का उपयोग करता है। इन मूल्यांकनों का उद्देश्य मॉडल की कमज़ोरियों को उजागर करना और यह दिखाना है कि बाद का प्रशिक्षण उन्हें दूर करता है या नहीं। इससे ऐसे काम में मदद मिलती है जिसमें अन्यथा डेटा को लेबल करने और उसका मूल्यांकन करने में कई सप्ताह लग सकते हैं।

विशिष्ट मॉडल इन्फरेंस को Fireworks के साझा सर्वरलेस पूल पर LoRA अडैप्टर उपलब्ध कराने के लिए सार्वजनिक पूर्वावलोकन में पेश किया गया। शुरुआत में यह सुविधा GLM 5.3 Flash के साथ उपलब्ध है। ग्राहक बिना तैनाती बनाए, आधार मॉडल की सर्वरलेस दर पर प्रति टोकन भुगतान करते हैं। अडैप्टर लोड करने, उसे लोड रखे रहने और निष्क्रिय रहने के समय के लिए कोई सेवा शुल्क नहीं है; प्रशिक्षण का बिल अलग से लिया जाता है।

GLM 5.3 Flash के लिए प्रकाशित दरें हैं: प्रति दस लाख इनपुट टोकन $0.15, प्रति दस लाख कैश किए गए इनपुट टोकन $0.03 और प्रति दस लाख आउटपुट टोकन $0.50।

पूर्वावलोकन में अधिकतम LoRA रैंक 64 है और आधार मॉडल के लिए प्रति खाते अधिकतम तीन अडैप्टर लोड किए जा सकते हैं। Fireworks के दस्तावेज़ों के अनुसार, लोड होने में पाँच मिनट से कम समय लगता है, पहले अनुरोध में एक मिनट तक लग सकता है और बाद के अनुरोधों की विलंबता लगभग आधार मॉडल जितनी होती है। पूर्वावलोकन के दौरान विलंबता की कोई गारंटी नहीं है।

अडैप्टर ऐसे GPU पर चलते हैं जिन्हें अन्य ग्राहकों के अडैप्टर के साथ साझा किया जाता है। जिन कार्यभारों के लिए स्थिर विलंबता, अलग GPU, कोई विशिष्ट क्षेत्र या अधिक परिशुद्धता वाली सेवा चाहिए, उनके लिए समर्पित तैनाती सुझाई जाती है; सर्वरलेस सुविधा प्रयोग और अचानक बढ़ने वाले ट्रैफ़िक के लिए है।

एंटरप्राइज़ नियंत्रण और संप्रभु तैनाती

मॉडल शासन-व्यवस्था, खर्च नियंत्रण और निर्यात किए जा सकने वाले ऑडिट लॉग अब आम तौर पर उपलब्ध हैं। केंद्रीकृत खाता प्रबंधन, क्षेत्रीय डेटा नियंत्रण और ग्राहक-प्रबंधित एन्क्रिप्शन अभी पूर्वावलोकन में हैं।

Fireworks Sovereign, जो निजी पूर्वावलोकन में है, कंपनी के इन्फरेंस इंजन को ग्राहक के क्लाउड, नियो-क्लाउड या डेटा केंद्र में चलाता है। इन्फरेंस और प्रशिक्षण ग्राहक के अपने परिवेश में तथा उसकी सुरक्षा और बदलाव-नियंत्रण नीतियों के अधीन रहते हैं। Fireworks के अनुसार, वह ग्राहकों के परिवेश में 25,000 से अधिक GPU का प्रबंधन करता है।

इस संचालन मॉडल में दोनों पक्षों के बीच ज़िम्मेदारियाँ बाँटी गई हैं। Fireworks क्लस्टर का सत्यापन करता है, मॉडल तैनात करता है और अपग्रेड, निगरानी, प्रदर्शन को बेहतर बनाने तथा घटनाओं पर प्रतिक्रिया देने का काम संभालता है, जबकि ग्राहक आर्किटेक्चर और नीतियों का स्वामित्व अपने पास रखता है। ग्राहक इनग्रेस, लोड बैलेंसिंग, DNS, TLS प्रमाणपत्र और स्वीकृत आउटबाउंड मार्गों का प्रबंधन करते हैं। Fireworks का कंट्रोल प्लेन एक समर्पित, ऑडिट किए जा सकने वाले क्रेडेंशियल का उपयोग करता है; आउटबाउंड ट्रैफ़िक केवल मॉडल वेट और इमेज डाउनलोड करने तथा परिचालन टेलीमेट्री तक सीमित रहता है।

Fireworks के मुताबिक, Sovereign समान हार्डवेयर पर 20% से 50% अधिक थ्रूपुट और हार्डवेयर पर खर्च किए गए प्रति डॉलर के हिसाब से लगभग 2.3 गुना अधिक टोकन देता है। वैकल्पिक हाइब्रिड ओवरफ़्लो सुविधा के तहत, क्लस्टर की क्षमता पूरी होने पर पात्र वर्कलोड ग्राहक द्वारा स्वीकृत क्षेत्रों में Fireworks Cloud पर स्थानांतरित किए जाते हैं। मांग घटने पर वे उसी API का उपयोग करके ग्राहक के GPU पर वापस आ जाते हैं।

Forge की उत्पाद-श्रेणी मॉडल के चयन, इन्फ़रेंस की लागत और इन्फ़्रास्ट्रक्चर पर नियंत्रण को एक ही एंटरप्राइज़ निर्णय का हिस्सा बनाती है। अहम बात यह है कि हर विकल्प की संचालन संबंधी शर्तें अलग हैं: सर्वरलेस एडेप्टर समर्पित क्षमता की ज़रूरत से बचाते हैं, लेकिन साझा GPU पर चलते हैं और पूर्वावलोकन अवधि में विलंबता की कोई गारंटी नहीं देते; वहीं Sovereign ग्राहक के स्वामित्व वाले इन्फ़्रास्ट्रक्चर को Fireworks द्वारा संचालित सर्विंग स्टैक के साथ जोड़ता है।