आपकी कंपनी की स्मृति को उसके एआई मॉडलों से अधिक समय तक टिकना चाहिए

लोग अक्सर पूछते हैं कि मेरी कंपनी को कौन सा मॉडल शक्ति देता है। उत्तर महत्वपूर्ण है: यह गुणवत्ता, लागत और सीमाएँ निर्धारित करता है, और मैं इसमें एक घंटा खर्च करने को तैयार हूँ। मैं एक और बात भी जानना चाहता हूँ: मॉडल बदलने पर संगठन के पास क्या बचता रहेगा।

इसे एक तिथि के रूप में सोचें। यदि आपका प्रदाता मंगलवार को अपनी कीमत दोगुनी कर दे, या आपने जिस एन्डपॉइंट पर निर्माण किया था उसे बंद कर दे, तो बुधवार सुबह आपके पास क्या अभी भी रहेगा?

कई कंपनियों के लिए ईमानदार उत्तर यह है: एक API कुंजी, एक चालान, और बहुत लंबा वार्तालाप इतिहास जो किसी और के सर्वरों पर किसी और की रिटेंशन शेड्यूल के तहत स्थित है।

मेरी पृष्ठभूमि रसायन विज्ञान है। मैंने कई साल ग्रे‑बॉक्स मॉडल्स को रासायनिक संयंत्रों के लिए बनाया, जिन्हें SCADA, प्रयोगशाला परिणामों और ऑपरेटर के अपने नोट्स से जोड़ा गया। इस काम से एक नियम जल्दी सीखने को मिलता है: शर्तों के बिना कोई संख्या परिणाम नहीं होती। यदि किसी ने पिछले हफ्ते एक सेंसर बदल दिया और कोई इसे लिख नहीं पाया, तो स्क्रीन पर दिखने वाला पढ़ना कुछ भी समझाता नहीं है।

यह एक लैब नोटबुक समस्या है। अब यह एक खरीद समस्या के रूप में सामने आती है, और यह शायद ही कभी उस शीट पर आती है जहाँ एआई बजट तय किया जाता है।

तीन प्रश्न जो एक साथ उत्तरित होते हैं

एक बड़ा कॉन्टेक्स्ट विंडो मॉडल को एकल अनुरोध में अधिक जानकारी उपयोग करने देता है। टिकाऊ संग्रहण निर्धारित करता है कि अनुरोधों के बीच क्या बना रहता है। पोर्टेबिलिटी तय करती है कि प्रदाता बदलने पर वह जानकारी उपयोग योग्य बनी रहे या नहीं। ये अलग‑अलग वास्तुशिल्प प्रश्न हैं, और मिलियन‑टोकन विंडो ने सभी को इन्हें एक ही रूप में देखने के लिए प्रेरित किया।

Google की अपनी दस्तावेज़ीकरण उपमा को सीधे तौर पर पेश करती है: “कॉन्टेक्स्ट विंडो के लिए उपमा अल्पकालिक स्मृति है।” इसे शाब्दिक रूप से लें। अल्पकालिक स्मृति वह चीज़ है जिसे आप खो देते हैं।

इसलिए हर विक्रेता जो विशाल विंडो बेचता है, वह स्थिति को स्थायी रखने के लिए कुछ अलग भी बेचता है। उन परतों को उनके अपने शब्दों में संकीर्ण रूप से पढ़ें, और नोट करें कि प्रत्येक वास्तव में क्या कवर करता है।

OpenAI डिफ़ॉल्ट रूप से Response ऑब्जेक्ट्स को 30 दिनों के लिए संग्रहीत करता है; संवाद वस्तुएँ और उनके आइटम उस TTL से मुक्त हैं. Amazon का 30‑दिन का डिलीशन the Bedrock Session Management API पर लागू होता है, और केवल उस API को कवर करता है। Anthropic का क्लाइंट‑साइड मेमोरी टूल एक उपयोगी सीमा दर्शाता है: मॉडल मेमोरी ऑपरेशन्स का अनुरोध करता है, एप्लिकेशन संग्रहण को नियंत्रित करता है, जबकि वही कंपनी अपने होस्टेड एजेंट्स के लिए प्रबंधित मेमोरी स्टोर्स भी प्रदान करती है।

इन सभी को सामान्य इंजीनियरिंग निर्णय माना जाता है, जो खुले तौर पर प्रकाशित होते हैं। इसका अर्थ यह भी है कि आपकी कंपनी के कार्यात्मक संदर्भ के लिए रिटेंशन नियम किसी और के रिलीज़ नोट्स में रहते हैं, और आपको यह बताने में सक्षम होना चाहिए कि कौन सा नियम आपके डेटा के किस भाग पर लागू होता है।

जहाँ स्विचिंग लागत वास्तव में मौजूद है

एक टेक्स्ट‑जेनरेशन कॉल को दूसरे से बदलना एक सप्ताहांत का काम है। इसलिए “हम मल्टी‑मॉडल हैं” कहना इतना सस्ता लगता है। महँगी परतें वही हैं जिन्हें कोई भी प्रदर्शित नहीं करता।

एम्बेडिंग्स। बदलते हुए एम्बेडिंग मॉडल आमतौर पर कॉर्पस को पुनः‑एम्बेड करने और इंडेक्स को माइग्रेट या पुनर्निर्माण करने की आवश्यकता रखता है। एक परिवर्तन जनरेशन मॉडल को ऐसी कोई आवश्यकता नहीं होती, और दोनों लगातार भ्रमित होते रहते हैं — आमतौर पर वह जो माइग्रेशन को तेज़ होने का वादा करता है। 2025 के साहित्य में मानक पथ को इस प्रकार वर्णित किया गया है “पूरे कॉर्पस को पुनः‑एन्कोड करना और Approximate Nearest Neighbor (ANN) इंडेक्स को पुनर्निर्माण करना, जिससे महत्वपूर्ण संचालन व्यवधान और गणनात्मक लागत उत्पन्न होती है”; उस पेपर का अपना योगदान, Drift-Adapter, एक विधि है जो स्थगित करना पुनर्निर्माण को एम्बेडिंग स्पेसेस के बीच एक ट्रांसफ़ॉर्म सीखकर स्थगित करता है। किसी भी स्थिति में, माइग्रेशन लागत में पुनः प्राप्ति सत्यापन और संचालन कार्य के साथ-साथ एम्बेडिंग कॉल्स भी शामिल हैं।

फ़ाइन‑ट्यून किया गया व्यवहार। Cohere की एक वाक्य सितंबर 2025 deprecation notice हर खरीद प्रक्रम डेस्क के ऊपर यह वाक्य होना चाहिए: “पहले फ़ाइन‑ट्यून किए गए मॉडल अब उपलब्ध नहीं रहेंगे।” वह व्यवहार जिसे आप बनाने के लिए भुगतान करते थे, उस एन्डपॉइंट के साथ ही हटाया गया जो इसे होस्ट करता था। सभी ने प्रकाशित प्रक्रिया का पालन किया। आपका मॉडल फिर भी चला गया।

प्रॉम्प्ट और टूल व्यवहार। वही निर्देश अलग मॉडल पर अलग एप्लिकेशन उत्पन्न करते हैं। एक एंटरप्राइज़ एप्लिकेशन में, शोधकर्ताओं ने रिग्रेशन पास रेट में गिरावट की रिपोर्ट की मूल मॉडल पर 100% से लेकर समान प्रॉम्प्ट वाले नए मॉडल पर 97.3% तक गिरा, जिसे केवल जानबूझकर प्रॉम्प्ट पुनःडिज़ाइन करने के बाद ही सुधारा गया। परीक्षण परिदृश्य उत्पादन में अपनी-अपनी आवृत्ति पर प्रकट होते हैं, इसलिए यह आंकड़ा यह अनुमान नहीं देता कि लाइव वर्कफ़्लो कितनी बार विफल होते हैं। समर्थन करने वाला संचालन नियम सरल है: प्रत्येक मॉडल अपग्रेड को एप्लिकेशन स्तर पर स्वयं सत्यापित करें, इससे पहले कि वह ग्राहक तक पहुँचे।

इन सबका अंत में बिल पर असर पड़ता है, मूल्य निर्धारण पृष्ठों की तुलना के बहुत बाद।

कोई और आपका कैलेंडर रख रहा है

Deprecation एक प्रकाशित शेड्यूल पर चलता है, और ये शेड्यूल आपके नहीं हैं। OpenAI ने असिस्टेंट्स API को अगस्त 2026 में बंद करने से पहले एक साल का नोटिस दिया – यह उसी पृष्ठ के मानकों के अनुसार उदार है, जहाँ GPT-4.5 प्रीव्यू को लगभग तीन महीने मिले थे। Mistral की नीति GA मॉडलों के लिए छह महीने और प्रीव्यू तथा तृतीय‑पक्ष मॉडलों के लिए एक महीना है, साथ ही एक चेतावनी है कि एक रोलिंग उपनाम “आपको मॉडल व्यवहार और मूल्य निर्धारण में मौन अपडेट्स के प्रति उजागर कर सकता है।”

AWS अपनी जीवनचक्र नीति में चुप्पी को ज़ोर से कहता है: “EOL तिथि से पहले एक सक्रिय मॉडल में माइग्रेट करें; माइग्रेशन स्वचालित रूप से नहीं होगा।”

आपकी रोडमैप का एक सह‑लेखक है। वह कभी आपके योजना बैठकों में नहीं आता और इस बात की परवाह नहीं करता कि आप किस तिमाही में हैं।

कीमत भी एक गतिशील भाग है

Gemini 3.7 Flash के सूचीबद्ध स्टैंडर्ड दरों के अनुसार, पाँच अरब अनकैश्ड इनपुट टोकन और एक अरब बिल्ड आउटपुट टोकन की लागत $7,500 प्रति माह है। 1 जनवरी 2027 के लिए वर्तमान में निर्धारित दरें इस टोकन बिल को $15,000 तक ले जाएँगी, अन्य शुल्क या छूट से पहले, जबकि आपका उत्पाद बिल्कुल वही करता है जो पहले करता था।

एक स्थिर मूल्य सूची भी बड़े बिल का कारण बन सकती है। Anthropic की मूल्य निर्धारण दस्तावेज़ीकरण में उल्लेख है कि उसके नवीनतम मॉडल पीढ़ियों द्वारा उपयोग किया गया टोकनाइज़र “एक ही पाठ के लिए लगभग 30% अधिक टोकन उत्पन्न करता है” – यह सामग्री‑निर्भर और उन पीढ़ियों के लिए विशिष्ट है – जिससे किसी भी इनवॉइस पर प्रभाव को मापना आवश्यक हो जाता है। इसलिए आप जिन टोकनों के लिए बिल किए जाते हैं, उन्हें मापें। केवल एक रेट कार्ड आपको यह नहीं बताएगा।

एक ऐसे उत्पाद के लिए जो वर्कफ़्लो चलाता है, उपयोगी आर्थिक माप सफलतापूर्वक पूर्ण किए गए कार्य की लागत है, जिसमें पुनः प्रयास और मानव समीक्षा शामिल है। यह संख्या मॉडल बदलने पर बदलती है, भले ही रेट कार्ड नहीं बदलता।

और इस सब में से कुछ भी वार्ता योग्य नहीं है जब छोड़ना एक वर्ष लेता है। Capgemini ने 1,300 कार्यकारियों का सर्वेक्षण किया अरब‑डॉलर संगठनों में वसंत 2026 में, सामान्यतः महत्वपूर्ण प्रौद्योगिकी आपूर्तिकर्ताओं के बारे में: 36% ने कहा कि किसी एक को छोड़ना बारह महीने से अधिक समय लेगा, और दस में से एक के पास बिल्कुल कोई वैध विकल्प नहीं था। यह एक आपूर्तिकर्ता संबंध का विवरण है जिसमें कोई द्वितीय स्रोत नहीं है।

इसे खरीदारी विभाग तक ले जाएँ

मैं एक फ्रेंच कंपनी चलाता हूँ, जो मार्से में पंजीकृत है, यूरोप में होस्टेड है, और फिर भी मैं सार में संप्रभुता भाषण को छोड़ दूँगा। प्रत्येक प्रौद्योगिकी आपूर्तिकर्ता से स्वतंत्रता एक सामान्य कंपनी के लिए पहुँच से बाहर है। वही Capgemini अध्ययन पाया कि 59% कार्यकारियों को पूर्ण डिजिटल संप्रभुता अवास्तविक लगती है, और मैं उनसे सहमत हूँ।

आपकी महत्वपूर्ण निर्भरताओं को समझना और नियंत्रित करना एक छोटा काम है, और संभव भी है। तीन प्रश्न, सभी एक बैठक में उत्तर योग्य: हमारा डेटा कहाँ संग्रहीत और प्रोसेस किया जाता है, कौन इसे एक्सेस कर सकता है, और दूसरे प्रदाता के साथ संचालन जारी रखने के लिए क्या आवश्यक होगा?

हर कंपनी को पता है कि लॉजिस्टिक्स, भुगतान और क्लाउड स्टोरेज के बारे में यह कैसे पूछना है। कार्य संदर्भ के बारे में पूछा जाए तो यूरोपीय निर्भरता बैठक में एक द्वितीय‑स्रोत चर्चा के रूप में आती है, जिसमें एक संख्या जुड़ी होती है, जो खरीदारी विभाग के कार्य करने के लिए एक रूप है।

यहाँ उद्धृत किए गए आंकड़ों पर एक चेतावनी है। यह कि कोई उद्यम कई मॉडल उपयोग करता है, यह हमें यह बताने में कम मदद करता है कि क्या वह अपने कार्य संदर्भ को प्रदाताओं के बीच स्थानांतरित कर सकता है। इसके लिए एक अलग परीक्षण की आवश्यकता है: क्या रिकॉर्ड, अनुमतियाँ और अधूरा कार्य ले जाया जा सकता है और फिर भी उपयोग किया जा सकता है?

वास्तव में कौन सी बात मॉडल को बदलने योग्य बनाती है

मॉडलों के बीच एक साझा इंटरफ़ेस उपयोगी है, और मैं एक बनाऊँगा। इसे मॉडल‑विशिष्ट क्षमताओं और निर्भरताओं को स्पष्ट करना चाहिए। पोर्टेबिलिटी के लिए यह नहीं होना चाहिए कि हर मॉडल समान व्यवहार करता है, और एक ऐसा सारांश जो अंतर को समान बना देता है, वह चुपचाप उस कारण को हटा देता है जिसके लिए आप एक अच्छा मॉडल भुगतान करते हैं।

भारी काम वह स्थिति का स्वामित्व है जिसे कोई भी प्रदाता अकेले संरक्षक नहीं होना चाहिए। चार चीजें, उनके टूटने के क्रम में।

आपके नियंत्रण में एक प्राधिकृत रिकॉर्ड।संदेश, प्राप्त स्रोत, अनुमोदन, निष्पादन चेकपॉइंट। बाहरी प्रणालियों में क्या पूर्ण हुआ और क्या सुरक्षित रूप से पुनः प्रयास किया जा सकता है, इसे रिकॉर्ड करें: ईमेल भेजा जा सकता है जबकि पुष्टि सहेजी नहीं गई, और एक पुनर्प्राप्ति प्रक्रिया जो इसे नहीं जानती वह इसे दो बार भेज देगी। कोई भी प्रदाता स्थिति जिसे आप पुनर्निर्मित नहीं कर सकते, वह एक निर्भरता है। इसे एक रूप में स्पष्ट रूप से लिखें, इससे पहले कि कोई घटना आपके लिए दस्तावेजीकरण कर दे।

प्रत्येक वेक्टर के साथ स्रोत।एक वेक्टर एक संकलित कलाकृति है; चंक स्रोत कोड है। स्रोत दस्तावेज़ और उसका संस्करण, दस्तावेज़ आईडी, चंक सीमाएँ, चंकर संस्करण, एम्बेडिंग मॉडल संस्करण और आयाम, इंडेक्स संस्करण, और कौन सी प्रक्रिया ने पाठ उत्पन्न किया, इन्हें संग्रहीत करें। केवल एक संग्रहीत टेक्स्ट फ्रैगमेंट टेबल, छवि या OCR परिणाम को पुनः निर्मित नहीं करेगा। सभी को रखना पुनः‑इंडेक्स को एक नियोजित माइग्रेशन में बदल देता है, जो वह आराम है जिसे मैं वादा करता हूँ।

स्रोत, अनुमान और निर्णय को अलग करने वाले रिकॉर्ड। मेमोरी को यह अलग करना होगा कि स्रोत ने क्या कहा, मॉडल ने क्या अनुमान लगाया, और व्यक्ति ने क्या स्वीकृत किया। एक ग्राहक जो गुरुवार को भुगतान करने का वादा करता है, मॉडल की यह भविष्यवाणी कि भुगतान देर हो सकता है, और शुक्रवार के लिए सहमत विस्तार तीन अलग-अलग रिकॉर्ड हैं जिनकी स्थितियां अलग हैं, और सिस्टम को पता होना चाहिए कि किस पर वह कार्रवाई कर सकता है। प्रत्येक को उसके मूल, दायरा, एक्सेस नियम और वर्तमान स्थिति की आवश्यकता होती है, जिसमें यह भी शामिल है कि क्या इसे सुधारा गया है या प्रतिस्थापित किया गया है। एक ट्रांसक्रिप्ट में सबूत हो सकते हैं; उसे दोबारा चलाने से यह विश्वसनीय रूप से नहीं पता चलता कि कौन से निष्कर्ष अभी भी वर्तमान हैं और कौन से निर्णय अभी भी मान्य हैं।

आपने वास्तव में परीक्षण किया हुआ पोर्टेबिलिटी। इसे दो तरीकों से परीक्षण योग्य बनाएं: एक निर्यात-और-पुनर्स्थापना अभ्यास, और एक मूल्यांकन सूट जो परिभाषित करता है कि एप्लिकेशन को क्या हासिल करना चाहिए। तब “we could switch” एक माप बन जाता है जिसे कोई चला सकता है: क्या प्रतिस्थापन आपके गुणवत्ता, अनुमतियों, विलंब और लागत की आवश्यकताओं के भीतर प्रतिनिधि कार्यप्रवाहों को जारी रख सकता है? और प्रशिक्षण डेटा को संरक्षित रखें जिसे आप पुनः उपयोग करने के अधिकार रखते हैं, साथ ही उसके संस्करण, ट्यूनिंग कॉन्फ़िगरेशन और स्वीकृति परीक्षण। ये पुनः प्रशिक्षण को संभव बनाते हैं, लेकिन समान व्यवहार की कोई गारंटी नहीं है, और फाइन‑ट्यून किए गए मॉडल आईडी की समाप्ति किसी ऐसे व्यक्ति द्वारा निर्धारित तिथि पर होती है जिसे आप कभी नहीं मिले।

फिर होस्टेड सत्र, प्रॉम्प्ट कैश और प्रोवाइडर रिट्रीवल का उपयोग करें जहाँ भी वे मददगार हों। वे अक्सर उत्कृष्ट होते हैं, और सिद्धांत पर उन्हें नकारना स्वयं में ही महंगा होता है। आवश्यकता यह है कि वे जिन रिकॉर्ड को रखते हैं, उन्हें पुनः प्राप्त किया जा सके और उनके एक्सेस और रिटेंशन नियमों को बरकरार रखते हुए कहीं और उपयोग किया जा सके। गणना को किराए पर लें; रिकॉर्ड पर नियंत्रण बनाए रखें।

मैं भी इस आर्किटेक्चर को अधिक नहीं बेचूँगा। प्रोडक्ट‑मार्केट फिट से पहले, छह सप्ताह पहले शिप करना अक्सर किसी भी एब्स्ट्रैक्शन लेयर से बेहतर होता है, और एक स्टार्टअप जो ग्राहकों के मिलने से पहले तीन रिट्रीवल बैकएंड बनाता है, वह एक संग्रहालय बना रहा है। यह ट्रेड सही है या नहीं, यह उत्पाद और अंततः पुनर्निर्माण की कीमत पर निर्भर करता है। कच्ची सामग्री को पुनः प्राप्त योग्य रखें और शॉर्टकट शॉर्टकट ही रहता है।

बदलाव वाला भाग

जबकि एआई केवल प्रश्नों का उत्तर देता था, संदर्भ खोना एक असुविधा थी। आप प्रॉम्प्ट को फिर से टाइप करते और आगे बढ़ते थे। अब यह मीटिंग बुक करता है, टिकट फ़ाइल करता है और सीआरएम को छूता है, और संदर्भ की कमी आपके ग्राहकों की प्रणालियों में दोहराए गए या अधूरे कार्यों का कारण बनती है।

मॉडल विक्रेता असाधारण चीजें बनाते हैं और मैं उनका दैनिक उपयोग करता हूँ। जिस जिम्मेदारी का मैं वर्णन कर रहा हूँ, वह उन लोगों के पास है जो बीच के प्लेटफ़ॉर्म बनाते हैं: निर्भरताओं को स्पष्ट करना, और यह सुनिश्चित करना कि क्या अधिकृत किया गया था और क्या पूरा हुआ, इसका विश्वसनीय रिकॉर्ड सुरक्षित रहे।

हर पूर्ण कार्यप्रवाह को संगठन को ऐसा कुछ छोड़ना चाहिए जिसे वह पुनः उपयोग कर सके — एक सत्यापित परिणाम, एक निर्णय जिसका ट्रेस करने योग्य इतिहास हो, अगली कार्य के लिए एक स्पष्ट प्रारंभिक बिंदु। यह संचित मूल्य उस मॉडल से अधिक समय तक टिकना चाहिए जिसने इसे बनाने में मदद की।

पूछें कि बुधवार सुबह आप अभी भी क्या अपने पास रखेंगे।