विचार नेता
एआई इन्फ्रास्ट्रक्चर टूटा हुआ है। टोकन नए मूल्य माप के रूप में उभर रहे हैं।
Unite.AI को Google पर अपने पसंदीदा स्रोतों में जोड़ें
एआई उद्योग को एक माप समस्या का सामना करना पड़ रहा है।
वर्षों से, सफलता को कंप्यूट के लिए पहुंच के रूप में परिभाषित किया गया है, जैसे कि कौन सबसे अधिक जीपीयू, सबसे बड़े क्लस्टर या सबसे तेज़ प्रशिक्षण रन है। बिलियन डॉलर का निवेश बुनियादी ढांचे में किया गया है इस दौड़ को जीतने के लिए।
लेकिन जब एआई प्रयोग से उत्पादन में जा रहा है, तो यह मॉडल टूटने लगा है।
उद्यम जीपीयू नहीं खरीद रहे हैं। वे अनुमान क्षमता भी नहीं खरीद रहे हैं। वे परिणाम खरीद रहे हैं जैसे कि सारांश, सिफारिशें, निर्णय, सामग्री। अन्य शब्दों में, वे टोकन खरीद रहे हैं।
फिर भी, अधिकांश एआई बुनियादी ढांचा अभी भी ऐसे डिज़ाइन किया गया है जैसे कि कंप्यूट अंतिम लक्ष्य है। यह नहीं है।
एआई में वास्तविक मूल्य की इकाई टोकन है। और जो कंपनियां इस बदलाव को जल्दी पहचानेंगी, वे बाजार के अगले युग को परिभाषित करेंगी।
एआई टोकन फैक्ट्री का उदय
यदि टोकन उत्पाद हैं, तो एआई बुनियादी ढांचे को एक उत्पादन प्रणाली की तरह व्यवहार करने की आवश्यकता है, न कि एक विज्ञान परियोजना की तरह। यहीं पर एआई टोकन फैक्ट्री की अवधारणा आती है।
एक एआई टोकन फैक्ट्री स्टैक में बस एक और सॉफ्टवेयर परत नहीं है। यह स्टैक का पुनर्विचार है। इसके बजाय अलग-अलग मॉडल प्रदर्शन या कच्चे हार्डवेयर उपयोगिता के लिए अनुकूलन करने के, यह एक परिणाम पर केंद्रित है: कुशल टोकन उत्पादन बड़े पैमाने पर।
इसका मतलब है बुनियादी ढांचे की जटिलता को सabstract करना, गतिशील रूप से विभिन्न वातावरण में कार्यभार आवंटित करना, और निरंतर रूप से थ्रूपुट, देरी, उपयोगिता, और प्रति टोकन लागत के लिए अनुकूलन करना।
आज का मॉडल मूल रूप से जीपीयू किराया है जिसमें अतिरिक्त चरण हैं। संगठन महंगे हार्डवेयर का प्रावधान करते हैं, टुकड़ों में टूलिंग को एक साथ रखते हैं, और आशा करते हैं कि उपयोगिता अंततः निवेश को सही ठहराएगी।
एक टोकन फैक्ट्री इस समीकरण को पूरी तरह से बदल देती है। यह बुनियादी ढांचे के बजाय आउटपुट देती है, और दिन एक से ही कुशलता को मूल डिजाइन सिद्धांत के रूप में मानती है। यह क्रमिक प्रगति नहीं है। यह बुनियादी ढांचे से क्षमता के रूप में बुनियादी ढांचे से उत्पादन में बदलाव है।
पुराने मॉडल क्यों नहीं चल सकता
वर्तमान एआई बुनियादी ढांचा मॉडल केवल अकुशल नहीं है। यह बढ़ती तरह से अस्थिर है।
जीपीयू की कमी ने पहली दरारें उजागर कीं। मांग आपूर्ति से अधिक है, जिससे संगठनों को विभिन्न विक्रेताओं के साथ विभाजित तैनाती में मजबूर होना पड़ता है। जो शुरू में एक अस्थायी काम-around था, वह जल्द ही एक मानक बन गया है: एकीकृत ऑपरेशनल परत के बिना विभिन्न वातावरण को एक साथ जोड़ा जा रहा है।
समस्या यह है कि अधिकांश मौजूदा स्टैक इस वास्तविकता के लिए नहीं बनाए गए थे। वे वास्तविक समय में प्रभावी ढंग से विभिन्न आर्किटेक्चर के पार अनुकूलन नहीं करते हैं, या प्रदर्शन और लागत में स्पष्ट दृश्यता प्रदान नहीं करते हैं।
परिणामस्वरूप, जटिलता तेजी से बढ़ रही है और पैमाने से अधिक है।
प्रत्येक नए मॉडल, फ्रेमवर्क, त्वरण, या क्लाउड प्लेटफ़ॉर्म एक और परत जोड़ता है जो संचालन के लिए जिम्मेदार है। टीमें ऑर्केस्ट्रेशन, संगतता, मार्गदर्शन, अनुसूची, और दृश्यता मुद्दों को प्रबंधित करने में बहुत समय बिताती हैं बजाय परिणामों में सुधार करने के।
जो एक स्केलिंग लाभ होना चाहिए, वह जल्द ही एक समन्वय समस्या बन जाता है।
इस बीच, अर्थशास्त्र को नजरअंदाज नहीं किया जा सकता है। शुरुआती एआई तैनाती अस्थायी रूप से अकुशलता को विकास और प्रयोग के पीछे छिपा सकती थी। यह खिड़की बंद हो रही है।
कार्यकारी अधिक कठिन प्रश्न पूछ रहे हैं: अनुमान लागत इतनी अनियमित क्यों है? जीपीयू उपयोगिता अभी भी इतनी कम क्यों है? जीपीयू उपयोगिता अभी भी इतनी कम क्यों है? क्यों संगठन ऐसे हार्डवेयर के लिए प्रीमियम मूल्य का भुगतान कर रहे हैं जो अक्सर निष्क्रिय रहता है? यह बुनियादी ढांचे के खर्च को व्यवसायिक परिणामों से क्यों नहीं बांधा जा सकता है?
उत्तर सरल है: प्रणाली पहुंच के लिए डिज़ाइन की गई थी, कुशलता के लिए नहीं।
कंप्यूट-केंद्रित से टोकन-केंद्रित वास्तुकला में
टोकन फैक्ट्री में बदलाव दार्शनिक और वास्तुशिल्प दोनों है।
पहले, बाजार जीपीयू-ए-सर्विस से आउटकम-ए-सर्विस में जा रहा है। ग्राहक बुनियादी ढांचे को प्रबंधित नहीं करना चाहते; वे गारंटीकृत परिणाम चाहते हैं। तार्किक अंतिम परिणाम आउटपुट पर आधारित खपत है, संसाधनों पर नहीं।
दूसरा, टुकड़ों में ढेर विभिन्न नियंत्रण विमानों में दे रहे हैं। एक विभिन्न वातावरण में, दृश्यता और नियंत्रण सब कुछ है। टोकन फैक्ट्री वास्तविक समय में उपयोग, लागत, और प्रदर्शन में दृश्यता प्रदान करती है, और उस पर कार्रवाई करने की क्षमता देती है। संगठनों को यह समझने की आवश्यकता है: कौन टोकन उत्पन्न कर रहा है? किस लागत पर? किस हार्डवेयर पर? किस कार्यभार के तहत? और किस कुशलता स्तर पर? उन उत्तरों के बिना, अनुकूलन अनुमान का काम बन जाता है।
अंत में, उद्योग फोकस निष्पादन से निरंतर अनुकूलन में स्थानांतरित हो रहा है। चुनौती अब केवल मॉडल चलाना नहीं है, बल्कि उन्हें बुद्धिमानी से चलाना है, जैसा कि संगठन निर्धारित करते हैं: कौन से कार्यभार कौन से हार्डवेयर पर होने चाहिए? कैसे थ्रूपुट को अधिकतम करना है जबकि लागत को नियंत्रित करना है? कैसे टोकन उपयोग को नियंत्रित करना है?
टोकन फैक्ट्री इन प्रश्नों को पहले-क्रम की समस्याओं के रूप में मानती है, पीछे के विचारों के रूप में नहीं।
आज का एआई डिलीवरी मॉडल क्यों कम पड़ता है
पारंपरिक एआई स्टैक (हार्डवेयर विक्रेताओं, क्लाउड प्लेटफ़ॉर्म, अनुमान सेवाओं को शामिल करते हुए) मुख्य रूप से तेजी से विकास के लिए बनाया गया था, प्रणालीगत कुशलता के लिए नहीं।
प्रत्येक परत मूल्य जोड़ती है लेकिन लागत, अमूर्तता, और संचालन विखंडन भी जोड़ती है। परिणाम एक प्रणाली है जिसमें ढेर मार्जिन, सीमित पारदर्शिता, और विक्रेता लॉक-इन बढ़ रहा है। संगठन सिलो के भीतर अनुकूलन करते हैं बजाय पूरी प्रणाली में।
टोकन फैक्ट्री मूल रूप से इस मॉडल को चुनौती देती है।
हार्डवेयर को मूल्य वितरण से अलग करके, वे अंत-से-अंत अनुकूलन को सक्षम बनाती हैं। कार्यभार तरल रूप से वातावरण में जा सकते हैं। आर्किटेक्चर बिना बड़े पुनर्लेखन के विकसित हो सकते हैं। कुशलता मापने योग्य, प्रबंधनीय, और निरंतर रूप से सुधार योग्य हो जाती है।
यही वह तरीका है जिससे उद्यम और नव-मेघ हाइपरस्केलर के साथ अधिक प्रभावी ढंग से प्रतिस्पर्धा कर सकते हैं। न कि उनके पैमाने को मिलाकर, बल्कि कुशलता पर बेहतर प्रदर्शन करके।
कौन जीतने वाला है
शायद इस संक्रमण का सबसे विघटनकारी पहलू यह है कि यह किसे सशक्त बनाता है। आपको एक डेटा सेंटर या यहां तक कि जीपीयू का मालिक होने की आवश्यकता नहीं है ताकि एक टोकन फैक्ट्री संचालित की जा सके।
जो महत्वपूर्ण है वह ऑर्केस्ट्रेशन, अनुकूलन, और वितरण पर नियंत्रण है। यह एक बहुत व्यापक सेट खिलाड़ियों के लिए दरवाजा खोलता है:
- बड़े और स्थायी एआई कार्यभार वाले उद्यम।
- नव-मेघ प्रदाता जो विशिष्ट ऊर्ध्वाधर या उपयोग के मामलों के लिए अनुकूलन कर रहे हैं।
- बुनियादी ढांचे के विक्रेता जो स्टैक में ऊपर जा रहे हैं।
इस मॉडल में, प्रतिस्पर्धी लाभ कंप्यूट को जमा करने से नहीं मिलता है। यह टोकन को बेहतर, तेज़, और सस्ता उत्पादन करने से मिलता है।
नया युद्ध क्षेत्र: प्रति टोकन लागत
एआई प्रतिस्पर्धा का अगला चरण मॉडल गुणवत्ता पर अकेले नहीं जीता जाएगा। यह कुशलता पर जीता जाएगा। अधिक विशेष रूप से, प्रति टोकन लागत पर।
कौन समान या बेहतर आउटपुट एक अंश की लागत पर दे सकता है? कौन बिना बुनियादी ढांचे के खर्च के बिना स्केल कर सकता है? कौन एआई को एक अनुमानित, मार्जिन-धनात्मक व्यवसाय में बदल सकता है?
वे बुनियादी ढांचे के प्रश्न नहीं हैं। वे उत्पादन प्रश्न हैं जिन्हें उत्पादन मानसिकता की आवश्यकता है।
भविष्य जीपीयू पर नहीं बनाया गया है
जीपीयू जाने वाले नहीं हैं, लेकिन वे अब कहानी नहीं हैं। टोकन हैं।
जो संगठन कंप्यूट पर ध्यान केंद्रित रखते हैं वे बढ़ती लागत और घटती प्रतिफल का सामना करते हैं। जो टोकन-केंद्रित प्रणालियों में बदलाव करते हैं वे मूल रूप से एक अलग मॉडल को अनलॉक करेंगे, जो बुनियादी ढांचे को परिणामों के साथ और लागत को मूल्य के साथ संरेखित करता है।
एआई टोकन फैक्ट्री एक दूर की अवधारणा नहीं हैं। यह बाजार का एक अनिवार्य विकास है। एकमात्र वास्तविक प्रश्न यह है कि कौन उन्हें पहले बनाता है और कौन पीछे छूट जाता है।
