Kong ने Konnect में AI लागत, क्रेडेंशियल और निगरानी नियंत्रण जोड़े

4 नवंबर, 2026 को Kong ने Kong Konnect में AI प्रबंधन की शुरुआत की। जैसे-जैसे उद्यम अपने एजेंटों को वास्तविक परिचालन में ला रहे हैं, इसमें AI पर खर्च, क्रेडेंशियल, नियंत्रित संसाधन खोज और निगरानी के लिए नियंत्रण जोड़े गए हैं।

लागत प्रबंधन, क्रेडेंशियल, संदर्भ और बुनियादी निगरानी की सुविधाएँ अलग से खरीदने वाले ऐड-ऑन के रूप में नहीं, बल्कि Konnect पर Kong AI Gateway के साथ मिलती हैं। इसलिए, जो टीमें पहले से यह गेटवे चला रही हैं, वे इन्हें बिना कोई अतिरिक्त खरीदारी किए इस्तेमाल कर सकती हैं। इस व्यापक रिलीज़ में मॉडल, मॉडल संदर्भ प्रोटोकॉल (MCP) सर्वर और एजेंटों को नियंत्रित ढंग से खोजने की सुविधा भी शामिल है।

Kong चार परिचालन संबंधी कमियों को दूर कर रहा है: ऐसा खर्च जिसे किसी टीम या ऐप्लिकेशन से जोड़ा नहीं जा सकता; एजेंट के कोड या प्रॉम्प्ट में शामिल क्रेडेंशियल; एजेंट टूल के रूप में बार-बार लपेटे जाने वाले API; और एजेंट की गतिविधियों का एकीकृत विवरण न होना। जब किसी एक काम में कई मॉडल, MCP सर्वर, API, टूल और दूसरे एजेंट शामिल होते हैं, तो इन कमियों को संभालना और मुश्किल हो जाता है। कनेक्टिविटी के मार्ग में नियंत्रण रखने से नीतियाँ और उपयोग संबंधी डेटा इन गतिविधियों के साथ-साथ आगे बढ़ते हैं; हर ऐप्लिकेशन टीम को बाद में इन्हें अलग-अलग जुटाना नहीं पड़ता।

लागत का निर्धारण और रनटाइम अनुकूलन

AI लागत प्रबंधन गेटवे के उपयोग संबंधी डेटा को अनुरोध की पहचान और संदर्भ के साथ जोड़ता है, ताकि खर्च को व्यावसायिक इकाइयों, इंजीनियरिंग टीमों, ऐप्लिकेशन, एजेंटों, अलग-अलग उपयोगकर्ताओं, ग्राहकों या टेनेंट से जोड़ा जा सके। इसकी मूल्य सूची में प्रदाताओं की टोकन दरें और खर्च की दरें एक जगह रखी जाती हैं; साथ ही, बातचीत से तय की गई शर्तों के लिए दरों में बदलाव की सुविधा भी है। तीसरे पक्ष के AI टूल के साथ एकीकरण से खर्च का निर्धारण कोडिंग परिवेशों, कोपायलट और सॉफ़्टवेयर-विकास कार्यप्रवाहों तक किया जा सकता है।

टीमें इन समूहों के लिए बजट तय कर सकती हैं और खर्च तय सीमाओं के करीब पहुँचने पर अलर्ट पा सकती हैं। Konnect के अवलोकन पृष्ठ में सख्त और लचीले बजट विकल्प भी हैं, साथ ही ऐसा डैशबोर्ड भी है जिसमें टीम, कोडिंग परिवेश या रिपॉज़िटरी के अनुसार खर्च की तुलना बजट सीमा से की जा सकती है।

अनुकूलन बुनियादी ढाँचे के स्तर पर बुद्धिमान मॉडल रूटिंग, अर्थ-आधारित कैशिंग, प्रॉम्प्ट कैशिंग, प्रॉम्प्ट संपीड़न और तर्क-प्रक्रिया नियंत्रणों के ज़रिए किया जाता है। Kong के अनुसार, संभावित लाभ कार्यभार पर निर्भर करता है: अर्थ-आधारित कैशिंग दोहराए जाने वाले या मिलते-जुलते अनुरोधों के लिए विशेष रूप से उपयोगी है, जबकि रूटिंग का महत्व तब बढ़ सकता है जब महँगे मॉडल ऐसे काम कर रहे हों जिन्हें कम लागत वाले विकल्प भी पूरा कर सकते हैं। अतिरिक्त दक्षताएँ खोजने और अनुकूलन से हुई बचत मापने की आगामी सुविधा Opportunities को शुरुआती रिलीज़ में शामिल नहीं किया गया है; इसे जल्द आने वाली सुविधा के रूप में चिह्नित किया गया है।

एजेंट ट्रैफ़िक के लिए प्रति-उपयोगकर्ता क्रेडेंशियल

Token Vault को Kong AI Gateway 2.3 में प्रति-उपयोगकर्ता तीन-पक्षीय OAuth के साथ शुरू किया गया था और यह Kong Gateway की सभी सदस्यताओं में शामिल है। उपयोगकर्ता और एजेंट, कंपनी के पहचान-प्रदाता के क्रेडेंशियल का इस्तेमाल करके MCP सर्वर प्रॉक्सी पर प्रमाणित होते हैं। अपस्ट्रीम क्रेडेंशियल लोड करने से पहले पहुँच, लॉगिंग, अनुरोध-दर सीमा और गेटवे की अन्य नीतियों की जाँच की जाती है।

पहली बार इस्तेमाल करने पर, गेटवे MCP URL एलिसिटेशन या एक कृत्रिम टूल के ज़रिए सीमित अवधि वाला नामांकन लिंक दे सकता है। उपयोगकर्ता अपस्ट्रीम सेवा की सामान्य OAuth सहमति प्रक्रिया पूरी करता है। इसके बाद, गेटवे उससे मिले रिफ़्रेश टोकन को ग्राहक की कुंजी से एन्क्रिप्ट करता है और एन्क्रिप्ट किए गए पैकेट को संग्रहित करने के लिए Kong Identity को भेजता है।

बाद में की जाने वाली अधिकृत कॉल पर, गेटवे ग्राहक के सीक्रेट मैनेजर से पढ़ी गई निजी कुंजी का इस्तेमाल करके क्रेडेंशियल को मेमोरी में डिक्रिप्ट करता है, उसे अपस्ट्रीम अनुरोध में जोड़ता है और समाप्त हो चुके टोकन को रिफ़्रेश करके फिर से एन्क्रिप्ट करता है। Kong के अनुसार, एजेंट को टोकन देखे बिना ही जवाब मिल जाता है। Konnect एन्क्रिप्ट किए गए टोकन संग्रहीत करता है, लेकिन उन्हें खोलने के लिए आवश्यक कुंजी उसके पास नहीं होती। उपयोगकर्ता की नीति-आधारित पहुँच हटाते ही यह बदलाव तुरंत लागू हो जाता है, भले ही अपस्ट्रीम क्रेडेंशियल अभी रद्द न किया गया हो।

नियंत्रित खोज और परिचालन दृश्यता

Kong AI रजिस्ट्री में व्यावसायिक, स्व-होस्ट किए गए और कस्टम मॉडल, MCP सर्वर तथा आंतरिक और तीसरे पक्ष के एजेंट शामिल हैं। डेवलपर और एजेंट स्वीकृत संसाधन खोज सकते हैं; उन्हें केवल हर एजेंट में पहले से कोड किए गए कनेक्शन पर निर्भर नहीं रहना पड़ता। रजिस्ट्री में दर्ज होने मात्र से पहुँच नहीं मिलती: रनटाइम पर AI Gateway प्रमाणीकरण, प्राधिकरण, नीति लागू करने, ट्रैफ़िक प्रबंधन और निगरानी की सुविधा देता है। अनुरोध-दर सीमाएँ और सुरक्षा उपाय भी इन नियंत्रणों में शामिल हैं।

Context Mesh मौजूदा API और MCP सर्वर से नियंत्रित MCP सर्वर बनाता है, कई स्रोतों को मिलाकर संयुक्त सर्वर तैयार करता है और फिर इन सर्वरों को AI Gateway पर तैनात कर सकता है। Code Mode में एजेंट उपलब्ध API की सूची में खोज करता है, प्रासंगिक स्कीमा प्राप्त करता है और हर टूल की परिभाषा लोड करने के बजाय सीधे कार्रवाई करता है। वह लूप, शर्तों और त्रुटि-प्रबंधन के साथ कार्रवाइयों को जोड़ भी सकता है। Kong ने इससे पहले 30 सितंबर, 2026 को AI Management के हिस्से के रूप में संदर्भ प्रबंधन को आम तौर पर उपलब्ध कराया था; पहले से उपलब्ध होने की यह जानकारी नए पैकेज के संदर्भ के रूप में दी गई है।

AI निगरानी में फिलहाल पूरे परिवेश का अवलोकन, पहले से तैयार और कस्टम डैशबोर्ड, अपनी ज़रूरत के अनुसार प्रश्न पूछने के लिए Explorer और कनेक्टिविटी लॉग शामिल हैं। डैशबोर्ड में मॉडल, एजेंट, MCP टूल, टीम या परिवेश के अनुसार ट्रैफ़िक और खर्च का ब्योरा देखा जा सकता है। साझा दृश्यों पर भूमिका-आधारित पहुँच नियंत्रण लागू होते हैं, जबकि OpenTelemetry और मेट्रिक्स एक्सपोर्टर के ज़रिए टेलीमेट्री को मौजूदा निगरानी प्रणालियों तक पहुँचाया जा सकता है।

एजेंट के चरणों, टूल कॉल और मॉडल कॉल में सत्र तथा टर्न की उन्नत ट्रेसिंग नवंबर 2026 के आखिर या दिसंबर 2026 की शुरुआत में उपलब्ध कराने की योजना है। इस नियोजित कार्यप्रवाह से टीमें किसी एक टर्न के इनपुट, आउटपुट, टोकन, लागत और विलंबता की जाँच उन नीतिगत जाँचों और टूल कॉल के साथ कर सकेंगी, जिनसे वह परिणाम तैयार हुआ।

यह रिलीज़ गेटवे की भूमिका को अलग-अलग AI अनुरोधों को आगे भेजने या रोकने से आगे बढ़ाती है: अब यह एजेंट की गतिविधियों के साथ पहचान, बजट और टूल तक पहुँच संबंधी नीतियाँ जोड़ने वाली साझा परत बन जाता है। Konnect गेटवे के मौजूदा ग्राहकों को इस पैकेज में लागत, क्रेडेंशियल और खोज संबंधी मुख्य नियंत्रण मिलते हैं, जबकि पूरे सत्र का ऑडिट ट्रेल और अनुकूलन से हुई बचत के प्रमाण रोलआउट के अगले चरण में शामिल होंगे।