क्यों एआई चिप रेस अब सॉफ्टवेयर पर चलती है

हर नए एआई एक्सेलरेटर के साथ एक बेंचमार्किंग कहानी आती है: पीक थ्रूपुट, टेराओप्स प्रति वाट, प्रभावशाली संख्याएं जो वादा करती हैं कि यह चिप सब कुछ बदल देगी। जो संख्याएं छोड़ देती हैं वह यह है कि ग्राहक वास्तव में उत्पादन में चिप का उपयोग कर सकता है या नहीं। अधिकांश समय, वे नहीं कर सकते, और यह एआई हार्डवेयर उद्योग की वास्तविक कहानी है जहां यह आज खड़ा है। यह एक सॉफ्टवेयर परिपक्वता समस्या का सामना करता है, और अधिकांश कंपनियां अभी तक सार्वजनिक रूप से इसके बारे में कहने के लिए तैयार नहीं हैं।

जिस अंतर के बारे में कोई बात नहीं करता

सिलिकॉन विकास चक्र दो से चार साल तक चलते हैं, जबकि एआई मॉडल लैंडस्केप महीनों के चक्र में विकसित होता है और सप्ताहों की ओर बढ़ रहा है। इसके नीचे एक मूल्य श्रृंखला समस्या है: अंत-उपयोग के मामले, वाहनों और कारखानों से लेकर अस्पतालों और उपकरणों तक, कार्यक्षमता में परिपक्व हो रहे हैं और मापनीय पी एंड एल प्रभाव पैदा कर रहे हैं। यह परिपक्वता सॉफ्टवेयर अनुकूलन की मांग को बढ़ाती है, जो बदले में हार्डवेयर परिवर्तनों की आवश्यकता होती है। इन तीनों परतों में से प्रत्येक मूल रूप से अलग गति से काम करती है, और यह असंगति बाजार भर में बढ़ती घर्षण का मूल कारण है। बड़े भाषा मॉडल अंतर्निहित करने के लिए आवश्यक सॉफ्टवेयर स्टैक पहले के मशीन लर्निंग वर्कलोड के लिए निर्मित की तुलना में मौलिक रूप से अलग है। हार्डवेयर विकास समयरेखा इस चक्र से मेल नहीं खाती है। आज नए सिलिकॉन को जहाज करने वाली कंपनियां ग्राहकों को सॉफ्टवेयर के साथ सौंप देती हैं जो चिप की क्षमताओं को पूरी तरह से अनलॉक नहीं कर सकता, जो बाजार भर में एक पैटर्न को दोहराता है: प्रभावशाली सिलिकॉन, अपरिपक्व सॉफ्टवेयर, धीमी गोद लेने, और खोया राजस्व। चिप वह करती है जिसके लिए यह डिज़ाइन किया गया था। मुद्दा यह है कि ग्राहक इसे आसानी से उपयोग नहीं कर सकते।

ऑटोमोटिव उद्योग में क्या हुआ, इस पर विचार करें। कारें खुद एक बड़े हिस्से में बीसवीं शताब्दी के मध्य तक एक हल की गई समस्या थीं, लेकिन जब सॉफ्टवेयर अंतर करने वाला बन गया, तो गहरी विनिर्माण विरासत वाली कंपनियों को सबसे ज्यादा अनुकूलन करने में कठिनाई हुई। फोर्ड और जीएम को पता था कि इंजन कैसे बनाना है, लेकिन उन्हें ऑपरेटिंग सिस्टम बनाने के लिए कोई मांसपेशियों की स्मृति नहीं थी। एआई हार्डवेयर उद्योग अब उसी संक्रमण से गुजर रहा है, और समानांतर असहज रूप से सटीक है। एनवीडिया सॉफ्टवेयर-मूल विघटनकार की भूमिका निभाता है, जबकि पारंपरिक सेमीकंडक्टर कंपनियां अभी भी यह सीखने की कोशिश कर रही हैं कि सिलिकॉन के साथ-साथ डेवलपर इकोसिस्टम कैसे बेचा जाए।

एनवीडिया का वर्चस्व लगभग पूरी तरह से इस बात से संबंधित नहीं है कि उनके पास सबसे अच्छे चिप्स हैं। सीउडीए (कंप्यूट यूनिफाइड डिवाइस आर्किटेक्चर) बीस साल पुराना है, जिसमें सभी तकनीकी ऋण शामिल हैं, लेकिन एनवीडिया ने वास्तव में जो बनाया है वह एआई कंप्यूट का ऑपरेटिंग सिस्टम है: एक अनुमानित, परिपक्व इकोसिस्टम जिस पर डेवलपर और ओईएम उत्पादन में भरोसा कर सकते हैं।

ग्राहक सॉफ्टवेयर परिपक्वता और एकीकरण जोखिम के आधार पर प्लेटफ़ॉर्म चुनते हैं, इसलिए जब एक नया एक्सेलरेटर उत्पादन-ग्रेड सॉफ्टवेयर स्टैक के बिना आता है, तो व्यावसायिक बातचीत शुरू होने से पहले ही समाप्त हो जाती है।

पहले मॉडल का समय, जिसे एक दिए गए एक्सेलरेटर पर वास्तविक एआई वर्कलोड चलाने में कितनी जल्दी एक ग्राहक मिलता है, यह एक अधिक अर्थपूर्ण व्यावसायिक मापदंड है जो शीर्ष प्रवाह से अधिक है। यह वह बातचीत है जिसके लिए अधिकांश हार्डवेयर कंपनियां कम से कम तैयार हैं।

वास्तविक बाजार अंतर्दृष्टि है

व्यवसाय की मूल भाषा पी एंड एल है, और हर कंपनी जो एआई तैनात कर रही है उसे एक ही प्रश्न का उत्तर देने की आवश्यकता है: पैसा कहां है, और मुझे इसे कब्जा करने से क्या रोक रहा है? प्रशिक्षण एक आवश्यक चरण है, लेकिन व्यावसायिक एआई अंतर्दृष्टि में रहता है, और उस बाजार ने अभी तक शुरू नहीं किया है। (NVDA )

यहाँ का पैमाने का असमानता हड़ताली है। प्रशिक्षण एक उपयोग के मामले को कवर करता है; अंतर्दृष्टि एक अनंत संख्या को कवर करती है। वाहन, कारखाने, अस्पताल, फोन या गोदाम में एआई का हर अनुप्रयोग अंतर्दृष्टि की आवश्यकता होती है। एक कार में सुरक्षा प्रणालियों को चलाने वाली एक चिप डेटा सेंटर पावर नहीं खींच सकती, और एक फैक्ट्री फ्लोर पर वास्तविक समय अंतर्दृष्टि चलाने वाले एक उपकरण को उच्च विलंबता को सहन नहीं किया जा सकता है। एज इंफरेंस मार्केट को विशेष रूप से डिज़ाइन किए गए सिलिकॉन की आवश्यकता होती है जो शक्ति दक्षता, भौतिक प्रतिबंधों और तैनाती उद्योगों की सुरक्षा और विश्वसनीयता आवश्यकताओं के लिए होती है।

गूगल का हालिया निर्णय अपने आठवें पीढ़ी के टीपीयू को दो अलग-अलग चिप्स में विभाजित करने के लिए, एक प्रशिक्षण के लिए और एक अंतर्दृष्टि के लिए, इसके साथ बैठने योग्य है। यह वास्तुकला विकल्प स्वीकार करता है कि दो कार्यभार इतनी काफी अलग हो गए हैं कि एक ही डिज़ाइन में दोनों के लिए अनुकूलन अब न तो में उत्कृष्टता प्राप्त करता है। जब एक कंपनी जो कुछ सबसे बड़े एआई बुनियादी ढांचे चला रही है यह तय करती है कि विशेषज्ञता अब समेकन से अधिक मायने रखती है, तो यह संकेत देता है कि बाजार कहां जा रहा है: एज पर तैनात उद्देश्य-निर्मित अंतर्दृष्टि सिलिकॉन की ओर, मात्रा में, वास्तविक दुनिया के प्रतिबंधों के तहत जो डेटा सेंटर बेंचमार्क के लिए डिज़ाइन नहीं किए गए थे।

हम अंतर्दृष्टि भूमि पर कब्जा कर रहे हैं, जबकि अधिकांश बाजार अभी भी प्रशिक्षण के आसपास संगठित है।

विरासत की संरचनात्मक सीमाएं

पैमाने पर निर्माण करने के लिए सबसे अच्छी स्थिति में कंपनियां संरचनात्मक रूप से उन बाजारों की सेवा करने में असमर्थ हैं जहां अंतर्दृष्टि रहेगी। ऑटोमोटिव ग्राहकों को घटक उपलब्धता के लिए एक दशक की गारंटी की आवश्यकता होती है। सामान्य-उद्देश्य सेमीकंडक्टर कंपनियां जैसे इंटेल ऐसा करने के लिए सहमत नहीं होंगी। यह संरचनात्मक प्रतिबंध एक पूरे उद्योग को कम सेवा देता है, और कोई भी बातचीत इसे नहीं बदलती।

एनवीडिया के एज एआई प्लेटफ़ॉर्म को पहले से ही पीआईएन-संगत विकल्पों से चुनौती का सामना करना पड़ रहा है जो बिना सॉफ्टवेयर स्टैक में किसी भी बदलाव किए बेहतर प्रदर्शन प्रति वाट प्रदान करते हैं। एक ग्राहक चिप को स्वैप कर सकता है और बाकी सब कुछ रख सकता है, जो एनवीडिया की एज स्थिति के सबसे मजबूत हिस्से पर एक सीधा व्यावसायिक हमला है।

जिन कंपनियों ने सीउडीए पर अपनी अवधारणा साबित की है, वे यह खोज रही हैं कि पैमाने पर आर्थिक रूप से तैनाती की मांग एक पुनर्वास.architecture की मांग करती है कम शक्ति वाले सिलिकॉन पर, क्योंकि जब संगठन दसियों हज़ारों उपकरणों को तैनात करते हैं, तो प्रति यूनिट लागत और शक्ति की खपत निर्णायक कारक बन जाते हैं। अंतर्दृष्टि बाजार में खेलने वाला क्रम सीधा है: कुछ ऐसा उपयोग करें जो काम करता है, इसे परीक्षण करें, फिर इसे आर्थिक रूप से तैनात करने का एक तरीका खोजें, क्योंकि आपको इस पर पैसा बनाने की आवश्यकता है। एआई के गोद लेने की गति को देखते हुए, सॉफ्टवेयर और इकोसिस्टम लाभ की स्थापना के लिए खिड़की तिमाहियों में मापी जाती है।

अधिकांश कंपनियों द्वारा छोड़े गए इंजीनियरिंग निवेश

एआई हार्डवेयर कंपनियां शक्तिशाली चिप्स को सॉफ्टवेयर के साथ जहाज करती हैं जो उन्हें पूरी तरह से चला नहीं सकता। उत्पादन-ग्रेड सिस्टम सॉफ्टवेयर, जिसमें अंतर्दृष्टि रनटाइम, कंपाइलर अनुकूलन और वर्कलोड सक्षम करना शामिल है, में गहरी, विशेषज्ञ इंजीनियरिंग की आवश्यकता होती है जो अधिकांश हार्डवेयर कंपनियों में घर में नहीं है।

इस क्षमता का निर्माण करने का अर्थ है कंपाइलर इंजीनियरों और रनटाइम आर्किटेक्ट्स को किराए पर लेना जो चिप की सैद्धांतिक क्षमता और ग्राहक व्यावहारिक रूप से तैनात कर सकते हैं के बीच की खाई को बंद कर सकते हैं। कंपनियों को राजस्व के औचित्य से पहले टूलचेन में निवेश करने की भी आवश्यकता है, क्योंकि एक बार राजस्व आता है, खिड़की बंद हो जाती है। जो कंपनियां उस निवेश को छोड़ देती हैं वे केवल पीछे नहीं रहती हैं। वे सौदे खो देते हैं।

जो चिप्स पैमाने पर हासिल करते हैं वे सबसे अधिक तैनात करने योग्य चिप्स हैं, और तैनात करने योग्यपन सॉफ्टवेयर गुणवत्ता का एक कार्य है। प्रमुख डाउनस्ट्रीम खरीदार, ओईएम और हाइपरस्केलर्स से लेकर उद्यम ग्राहकों तक, पहले से ही सिलिकॉन से जले हुए हैं जो बेंचमार्क अच्छा है और एकीकरण बुरा है। वे पारिस्थितिकी तंत्र की परिपक्वता और एकीकरण जोखिम के आधार पर चुनते हैं। जो कंपनियां सॉफ्टवेयर को पहले दर्जे के इंजीनियरिंग प्राथमिकता के रूप में मानती हैं वे अधिक पायलटों को उत्पादन अनुबंधों में परिवर्तित करती हैं और राजस्व तक जल्दी पहुंचती हैं। जो इसे एक शिपिंग उपेक्षा के रूप में मानते हैं वे तकनीकी रूप से श्रेष्ठ सिलिकॉन को देखते हैं जो अधिक परिपक्व स्टैक वाले हीन चिप्स से सौदे खो देते हैं।

घड़ी पहले से ही टिक रही है

एआई हार्डवेयर कंपनियां जो अगले चरण में महत्वपूर्ण हिस्सेदारी हासिल करने के लिए स्थित हैं, वे आज इकोसिस्टम लाभ बना रही हैं जो बाद के प्रवेशकर्ताओं के लिए दोहराना मुश्किल होगा। सॉफ्टवेयर लचीलापन, नए मॉडल वास्तुकला के अनुकूल होने की क्षमता के बिना अगले टेप-आउट की प्रतीक्षा किए बिना, व्यावसायिक रूप से प्रासंगिक सिलिकॉन से सिलिकॉन को अलग करता है जो राजस्व को उत्पन्न करने के लिए आवश्यक राजस्व को चक्र द्वारा उत्पन्न करने में विफल रहता है।

इंजीनियरिंग टीमों, साझेदारी समझौतों और व्यावसायिक पायलटों में अभी लिए जा रहे निर्णय एआई हार्डवेयर परिदृश्य भर में, यह निर्धारित करेंगे कि कौन सी कंपनियां 2028 में अभी भी प्रासंगिक हैं। सीउडीए की बीस साल की शुरुआत एक पारिस्थितिकी गहराई पर बनाई गई है जो किसी भी कंपनी द्वारा सॉफ्टवेयर को एक स्थायी इंजीनियरिंग प्राथमिकता के रूप में माना जा सकता है।

उद्योग को यह प्रश्न का उत्तर देने की आवश्यकता है कि कौन सी कंपनियां इतनी तेजी से आगे बढ़ रही हैं कि वे अपने चिप्स को डिफ़ॉल्ट विकल्प बनाने के लिए पारिस्थितिकी गहराई बना रही हैं जो किसी और की तुलना में पहले से ही बहुत अधिक प्रतिष्ठित हो गई है।