विचार नेता

एजेंट-आधारित एआई कार्यभार का विस्तार करने की आर्थिक वास्तविकता

Sohrab Hosseini
Unite.AI को Google पर अपने पसंदीदा स्रोतों में जोड़ें
A high-tech data center landscape featuring glowing blue fiber-optic data streams converging into a complex network, passing through a massive, reinforced industrial gate that represents a
मुख्य बिंदुएआई की लागत की अप्रत्याशितता गतिशील वर्कफ़्लोज़ से उत्पन्न होती है, जिन्हें पारंपरिक…
और देखें
  • एआई की लागत की अप्रत्याशितता गतिशील वर्कफ़्लोज़ से उत्पन्न होती है, जिन्हें पारंपरिक क्लाउड मॉनिटरिंग द्वारा नहीं पकड़ा जाता है।
  • एजेंटिक सिस्टम मॉडल कॉल और रिट्रीवल ऑपरेशनों की श्रृंखलाओं के माध्यम से लागत को गुणा कर देते हैं।
  • उद्यम अब एआई तैनाती के लिए लागत को एक मुख्य विश्वसनीयता गेट के रूप में मानते हैं।

1. एआई तैनाती के बाद छिपा हुआ लागत का झटका

प्रारंभिक पायलट में, एआई सिस्टम सतह पर आर्थिक रूप से कुशल लगते हैं। ट्रैफिक की मात्रा कम है, उपयोग के मामले संकीर्ण रूप से परिभाषित हैं, और टीमें नियंत्रित वातावरण में व्यवहार की बारीकी से निगरानी करती हैं। इन शर्तों के तहत, लागत आमतौर पर व्यक्तिगत मॉडल कॉल या सीमित कार्य प्रवाहों के स्तर पर मूल्यांकित की जाती है। इससे लगता है कि बड़े पैमाने पर विस्तार करना आसान होगा। कम से कम, यही अधिकांश टीमों ने सोचा था।

यह धारणा इस तथ्य से और बढ़ जाती है कि जनरेटिव एआई पर खर्च धीमा होने के कोई संकेत नहीं दिखा रहा है। एक हालिया रिपोर्ट अनुमान लगाती है कि उद्यम जेन-एआई अनुप्रयोग व्यय 2025 में दसियों अरब डॉलर तक पहुंच गया, जो वर्ष-दर-वर्ष तिगुना से अधिक है।

लेकिन वास्तविकता एक बार एजेंटों को वास्तविक उपयोगकर्ताओं और संचालन जटिलता के संपर्क में आने पर बदल जाती है।

उत्पादन वातावरण अप्रत्याशित इंटरैक्शन पैटर्न, लंबी बातचीत, पृष्ठभूमि प्रक्रियाएं और अधिक क्षमता वाले मॉडलों के लिए एस्केलेशन पथ पेश करते हैं। एक ही अनुरोध कई डाउनस्ट्रीम क्रियाओं को ट्रिगर कर सकता है जो परीक्षण के दौरान दिखाई नहीं दे रहे थे। उद्यमों को एक चुनौती का सामना करना पड़ता है जिसे कई टीमें “बिल देखकर मिलने वाले झटके” के रूप में वर्णित करती हैं, जो बिना स्पष्ट समझ के खर्च में अचानक वृद्धि होती है कि कौन से व्यवहार या कार्य प्रवाह इसे उत्पन्न करते हैं।

इस चरण में, चुनौती केवल मॉडल को अनुकूलित करने के बारे में नहीं है। इसके बजाय, यह वास्तविक लागत को चलाने वाले रनटाइम गतिविधियों में दृश्यता प्राप्त करने के बारे में है।

2. एआई कार्यभार पारंपरिक क्लाउड लागत मॉडल क्यों तोड़ते हैं

पहले, पारंपरिक क्लाउड लागत प्रबंधन अपेक्षाकृत अनुमानित कार्यभार के आसपास विकसित हुआ। बुनियादी ढांचे की खपत को स्थिर इकाइयों जैसे कि कंप्यूटिंग घंटे, स्टोरेज या अनुरोध की मात्रा में मापा जा सकता था, और यहां तक कि प्रावधान रणनीतियों या उपयोग नियंत्रण के माध्यम से अनुकूलित किया जा सकता था। मुख्य बात यह जानना है कि निष्पादन पथ बड़े पैमाने पर निर्धारित थे। इससे उचित सटीकता के साथ खर्च का पूर्वानुमान लगाना संभव हो गया और विशिष्ट सेवाओं या टीमों के लिए लागत का श्रेय दिया जा सकता है।

एआई कार्यभार एक अलग आर्थिक मॉडल पेश करते हैं। खर्च मुख्य रूप से टोकन उपयोग, संदर्भ आकार, मॉडल कॉल के चेन और गतिशील कार्य प्रवाह निर्णयों से जुड़ा हुआ है जो एक इंटरैक्शन से दूसरे में भिन्न होता है।

एक ही उपयोगकर्ता अनुरोध विभिन्न निष्पादन पथों का अनुसरण कर सकता है, जो विश्वास के स्तर, उपकरण प्रतिक्रियाओं या फॉलबैक तर्क पर निर्भर करता है। यही कारण है कि लागत रैखिक या आसानी से अनुमानित नहीं है जैसा कि यह एक बार था। पारंपरिक फिनोप्स डैशबोर्ड बुनियादी ढांचे की खपत में दृश्यता प्रदान करते हैं। वास्तविक मुद्दा यह है कि वे रनटाइम व्यवहार को कैप्चर करने में कितनी बार संघर्ष करते हैं, केवल संसाधन आवंटन से आगे जाकर। उद्यम पारंपरिक साधनों से एआई सिस्टम के अर्थशास्त्र को वास्तव में निर्धारित नहीं कर सकते हैं।

3. एजेंटिक सिस्टम की बढ़ती लागत सतह

जैसे ही उद्यम एकल-चरण अनुमान से एजेंटिक आर्किटेक्चर में आगे बढ़ते हैं, एआई सिस्टम का लागत प्रोफाइल बहुत अधिक जटिल हो जाता है। हाल के उद्योग विश्लेषण का अनुमान है कि 2027 तक 40% से अधिक एजेंटिक एआई परियोजनाएं उत्पादन तक पहुंचने में विफल रहेंगी, जो आंशिक रूप से मल्टी-स्टेप एजेंट कार्य प्रवाहों को बड़े पैमाने पर तैनात करने की वास्तविक लागत और जटिलता से प्रेरित होंगी।

एक उपयोगकर्ता अनुरोध का समाधान एक मॉडल कॉल के माध्यम से नहीं होता है। इसके बजाय, प्रक्रिया समन्वित कार्य प्रवाहों के माध्यम से होती है जो योजना चरणों को शामिल कर सकती है। सोचें कि पुनर्प्राप्ति संचालन, उपकरण निष्पादन और कई एजेंटों के बीच इंटरैक्शन शामिल हैं।

उपरोक्त कार्य प्रवाह जानकारी की पुनर्प्राप्ति से संवर्धित जनरेशन (RAG) या मल्टी-एजेंट सहयोग जैसी क्षमताएं भी पेश करते हैं, जो समय के साथ जोड़े गए अतिरिक्त भुगतान की जाने वाली संचालन पेश करते हैं।

एक इंटरैक्शन एम्बेडिंग कॉल, वेक्टर डेटाबेस क्वेरी, पुनरावृत्ति तर्क लूप और जब विश्वास गिरता है तो अधिक क्षमता वाले मॉडलों के लिए एस्केलेशन को ट्रिगर कर सकता है। जबकि प्रत्येक व्यक्तिगत क्रिया अलग से देखने पर लागत की दृष्टि से मामूली लग सकती है, उनका संचयी प्रभाव प्रणाली के समग्र अर्थशास्त्र को आकार देता है।

4. प्रॉम्प्ट अनुकूलन अकेले रनटाइम अर्थशास्त्र को क्यों नहीं हल कर सकता है

प्रॉम्प्ट अनुकूलन आमतौर पर शुरुआती उपायों में से एक है जिसका उपयोग टीमें एआई लागत को नियंत्रित करने के प्रयास में करती हैं। टोकन उपयोग को कम करना, निर्देशों को परिष्कृत करना या प्रतिक्रिया संरचना में सुधार करने से व्यक्तिगत मॉडल कॉलों के स्तर पर महत्वपूर्ण दक्षता लाभ मिल सकता है। अनुकूलन केवल आर्थिक चित्र के एक छोटे से हिस्से को संबोधित करते हैं। उत्पादन वातावरण में, अधिकांश लागत अस्थिरता कार्य प्रवाहों में व्यवहार पैटर्न द्वारा संचालित होती है, केवल प्रॉम्प्ट की लंबाई के बजाय।

अक्षमताएं अक्सर अनावश्यक रिट्राई, अधिक गहरी पुनर्प्राप्ति, उच्च-लागत वाले मॉडलों के लिए एस्केलेशन या एजेंटों द्वारा की जाने वाली कार्रवाई से उत्पन्न होती हैं जो परिणामों को महत्वपूर्ण रूप से नहीं बदलती हैं। निष्पादन ट्रेस और व्यावसायिक प्रभाव में दृश्यता के बिना, प्रॉम्प्ट ट्यूनिंग खर्च को प्रणाली के एक हिस्से से दूसरे हिस्से में स्थानांतरित कर सकती है।

एआई सिस्टम अधिक स्वायत्त और इंटरकनेक्टेड होते जा रहे हैं, लागत का प्रबंधन करने के लिए वास्तविक समय में एजेंटों के संचालन को निर्धारित करने वाले प्रणालीगत नियंत्रण की आवश्यकता है। यह केवल व्यक्तिगत अनुरोधों के लिए शब्दांकन में स्थानीय समायोजन के बारे में नहीं है।

एक हालिया एआई फिनोप्स सर्वेक्षण जिसने दसियों अरब के क्लाउड खर्च को शामिल किया, वास्तविक समय एआई लागत दृश्यता, प्रति-टीम बजट और स्वचालित बजट अलर्ट में संक्रमण का उल्लेख किया। विचार यह है कि लागत को केवल वित्तीय मीट्रिक के बजाय संचालन से जुड़े सेवा-स्तर उद्देश्य यानी एसएलओ के रूप में देखना है।

5. एआई लागत नियंत्रण के लिए उभरते वास्तुकला दृष्टिकोण

बढ़ती लागत अस्थिरता के प्रतिक्रियास्वरूप, उद्यम एआई सिस्टम के भीतर आर्थिक नियंत्रण को कहां और कैसे लागू किया जाना चाहिए, इस पर पुनर्विचार कर रहे हैं। लागत अनुकूलन को एक पोस्ट-हॉक वित्त अभ्यास के रूप में मानने के बजाय, टीमें ऐसे आर्किटेक्चरल तंत्र अपना रही हैं जो रनटाइम के दौरान खर्च को प्रभावित करते हैं।

एक उभरता हुआ पैटर्न जिसे हम देखना शुरू कर रहे हैं वह मॉडल या कार्य प्रवाहों का चयन करने के लिए मार्ग और ऑर्केस्ट्रेशन परतों का उपयोग है जो कार्य जटिलता, विलंब लक्ष्यों या बजट प्रतिबंधों के आधार पर गतिशील रूप से होता है। यह उद्यमों को गुणवत्ता और दक्षता के बीच संतुलन बनाने की अनुमति देता है स्थिर कॉन्फ़िगरेशन विकल्पों पर निर्भर किए बिना।

हमने जिन अन्य मार्गों को देखा है उनमें नीति-निर्देशित निष्पादन नियंत्रण, लागत-सचेत दोबारा प्रयास की रणनीतियां और केंद्रीकृत ऑब्ज़र्वेबिलिटी शामिल हैं जो विशिष्ट कार्य प्रवाहों के लिए खर्च का श्रेय देती हैं।

मूल्यांकन भी एक शासन उपकरण के रूप में अधिक सामान्य रूप से उपयोग किया जा रहा है, जिसमें टीमें केवल उन कॉन्फ़िगरेशन को बढ़ावा देती हैं जो पूर्वनिर्धारित लागत और प्रदर्शन सीमा को पूरा करते हैं।

6. उद्यम एआई के लिए लागत विश्वसनीयता की अगली कसौटी है

एआई सिस्टम कोर व्यवसाय कार्य प्रवाह में निहित होते जा रहे हैं, उद्यम वास्तव में लागत को एक तैनाती प्रतिबंध के रूप में मान रहे हैं गुणवत्ता, सुरक्षा और विश्वसनीयता के साथ-साथ। जैसे ही सेवा स्तर के उद्देश्य स्वीकार्य प्रदर्शन सीमा को परिभाषित करते हैं, इकाई-आर्थिक सीमाएं स्वचालन का सुरक्षित रूप से विस्तार करने के लिए एक पूर्वापेक्षा के रूप में उभर रही हैं। जो सिस्टम अनुमानित लागत प्रोफाइल को पूरा नहीं कर सकते हैं उन्हें संचालन रूप से सही ठहराना मुश्किल है, चाहे उनकी तकनीकी क्षमता कुछ भी हो।

यह परिवर्तन टीमों को व्यापक रोलआउट से पहले “लागत गेट” पेश करने के लिए प्रेरित कर रहा है, जो एक बार सिस्टम लाइव हो जाने के बाद निरंतर निगरानी के साथ समर्थित है। समय के साथ, लागत प्रबंधन एक निरंतर इंजीनियरिंग अनुशासन में विकसित होने की संभावना है, एक बार के अनुकूलन प्रयास के बजाय। एआई को सबसे सफलतापूर्वक स्केल करने वाले उद्यम वे होंगे जो आर्थिक नियंत्रण के लिए डिज़ाइन करते हैं शुरू से ही, सुनिश्चित करते हुए कि किसी भी क्षमता में सुधार टिकाऊ संचालन मॉडल से मेल खाता है।

उद्यम एआई अपनाने के अगले चरण में, हम शायद आर्थिक नियंत्रण को विश्वसनीयता और सुरक्षा के रूप में प्रणाली डिज़ाइन के लिए मूलभूत होते देखेंगे।

सोह्राब होसैनी, ऑर्क्यू.एआई के सह-संस्थापक, एक प्रौद्योगिकी नेता और उद्यमी हैं जो एम्स्टर्डम क्षेत्र में आधारित हैं और जिनके पास सास, बड़े पैमाने पर प्रणाली और अनुप्रयुक्त एआई में गहरा अनुभव है। 2022 में ऑर्क्यू.एआई की स्थापना के बाद से, उन्होंने व्यावहारिक बुनियादी ढांचे को बनाने पर ध्यान केंद्रित किया है जो टीमों को बड़े भाषा मॉडल को प्रयोग से विश्वसनीय वास्तविक संचालन में ले जाने में मदद करता है। उनकी पृष्ठभूमि में नियोक्ल्स में सीओओ और सीटीओ, ट्रांसडेव में भविष्य की प्रौद्योगिकी के सीटीओ के रूप में स्वायत्त मार्ग और बेड़े प्रबंधन पर काम करना, और ट्रेडयोरट्रिप में सीओओ जैसे वरिष्ठ नेतृत्व पद शामिल हैं। समानांतर में, वह एक सलाहकार और एंजेल निवेशक के रूप में सक्रिय हैं, जो उत्पाद दिशा, तकनीकी निर्णय और कार्यान्वयन रणनीति के साथ प्रारंभिक चरण की एआई कंपनियों का समर्थन करते हैं।