साक्षात्कार
रोब मे, न्यूरोमेट्रिक के सीईओ और सह-संस्थापक – साक्षात्कार श्रृंखला
Unite.AI को Google पर अपने पसंदीदा स्रोतों में जोड़ें
रोब मे, न्यूरोमेट्रिक के सीईओ और सह-संस्थापक, एक अनुभवी उद्यमी और निवेशक हैं जिनके पास क्लाउड कंप्यूटिंग, एआई स्टार्टअप और वेंचर कैपिटल में लंबा अनुभव है, वर्तमान में न्यूरोमेट्रिक एआई का नेतृत्व करते हुए साथ ही हाफकोर्ट वेंचर्स में मैनेजिंग डायरेक्टर के रूप में कार्य करते हैं, जहां उन्होंने 100 से अधिक प्रौद्योगिकी कंपनियों को समर्थन दिया है। अपने संचालन और निवेश भूमिकाओं के साथ-साथ, उन्होंने एआई इनोवेटर्स कम्युनिटी की स्थापना की और पहले बैकअपिफाई जैसी कंपनियों का निर्माण और निकास किया, जो कई प्रौद्योगिकी चक्रों में गहरा अनुभव प्रदान करता है। वह अपने लंबे समय से चल रहे इन्वेस्टिंग इन एआई समाचार पत्र के लिए भी व्यापक रूप से जाने जाते हैं, जिसे उन्होंने एक दशक से अधिक समय पहले एआई रुझानों का विश्लेषण करने, निवेश रणनीतियों और बाजार में बदलाव का अध्ययन करने के लिए शुरू किया था, और जो अब तेजी से विकसित हो रहे एआई परिदृश्य में गहरी अंतर्दृष्टि प्रदान करने वाले एक मंच में विकसित हो गया है।
न्यूरोमेट्रिक एआई आज की कृत्रिम बुद्धिमत्ता में सबसे महत्वपूर्ण चुनौतियों में से एक का समाधान करने पर केंद्रित है: पैमाने पर अनुमान और दक्षता की लागत। यह प्लेटफ़ॉर्म गतिविधि रूप से एआई कार्यभार का मूल्यांकन करता है और अनुकूलन रणनीतियों को लागू करता है – जैसे कि उन्नत परीक्षण-समय कंप्यूटे तकनीकों के साथ छोटे, विशेषज्ञ मॉडल को जोड़ने – प्रदर्शन में सुधार करते हुए लागत को नाटकीय रूप से कम करने के लिए, जिससे उद्यमों को एआई तैनाती से बेहतर रिटर्न प्राप्त करने में सक्षम बनाता है। विशिष्ट कार्यों के लिए कार्यभार और मॉडल उपयोग को समन्वयित करके, न्यूरोमेट्रिक एआई प्रणालियों को काफी तेजी से और अधिक किफायती बनाने का लक्ष्य रखता है, खुद को एआई बुनियादी ढांचे, दक्षता और वास्तविक दुनिया की विस्तार योग्यता के बीच के बिंदु पर स्थापित करता है क्योंकि संगठन प्रयोग से उत्पादन में जाते हैं।
आपने कई एआई कंपनियों की स्थापना की है और उनका नेतृत्व किया है, हाफकोर्ट वेंचर्स के माध्यम से 100 से अधिक स्टार्टअप में निवेश किया है, और पहले बैकअपिफाई का निर्माण और निकास किया है। उन अनुभवों ने आपके दृष्टिकोण को आकार देने में कैसे मदद की है कि आज एआई में टिकाऊ मूल्य कहां बनाया जा रहा है?
मुझे लगता है कि अधिकांश निवेशक और उद्यमी अल्पकालिक मोआत का पीछा कर रहे हैं – चीजें जो आज बाजार में स्पष्ट अंतराल की तरह दिखती हैं लेकिन जल्द ही मौजूदा कंपनियों द्वारा भरी जाएंगी। एआई व्यवसाय चलाने को संभाव्यता निर्णयों की श्रृंखला में बदल देगा। निवेश करने या बनाने के लिए कंपनियां वे हैं जिनके पास उन संभावनाओं का सबसे अच्छा अनुमान है। कभी-कभी यह ऊर्ध्वाधर एकीकरण से आएगा और कभी-कभी क्षैतिज पैमाने से – यह बाजार पर निर्भर करता है।
आपके इन्वेस्टिंग इन एआई समाचार पत्र में, आपने तर्क दिया है कि मॉडल अधिक से अधिक विनिमेय हो रहे हैं और वास्तविक रक्षा प्रणाली सिस्टम परत में स्थानांतरित हो रही है। एक सच्चे “सिस्टम मोआत” का क्या अर्थ है?
एक सच्चे सिस्टम मोआत में तीन गुण होते हैं: यह उपयोग के साथ जुड़ता है, यह विशिष्ट ग्राहक के लिए है, और इसे बेहतर मॉडल के साथ बदला नहीं जा सकता है।
रक्षा सिस्टम ऑफ कॉन्टेक्स्ट में रहती है – एक एकीकृत वास्तुकला जो फाउंडेशन मॉडल को कंपनी के लिए अद्वितीय सब कुछ से जोड़ती है: इसका डेटा, इसके कार्य प्रवाह, इसका डोमेन ज्ञान, इसका निर्णय इतिहास। सिस्टम प्रत्येक इंटरैक्शन से संकेत को पकड़ता है – कौन से मॉडल कौन से कार्यों में सफल होते हैं, जहां विलंब महत्वपूर्ण है, क्या उद्यम-विशिष्ट पैटर्न उभरते हैं – और इसे स्वयं में सुधार करने के लिए वापस खिलाता है।
मुख्य अंतर्दृष्टि यह है कि यह एक गुणात्मक फ्लाईव्हील बनाता है, एक यौगिक नहीं। आप पिछले निर्णयों का एक खोज योग्य लॉग जमा नहीं कर रहे हैं। आप विशेष मॉडल का उत्पादन करने वाले प्रशिक्षण संकेत उत्पन्न कर रहे हैं जो मार्गदर्शन में सुधार करते हैं, जो अधिक मूल्यवान डेटा को पकड़ता है। मोआत प्रत्येक अनुमान के साथ चौड़ा होता है।
व्यवहार में, एक सिस्टम मोआत गहरे कार्य प्रवाह एकीकरण की तरह दिखता है जहां स्विचिंग लागतें एपीआई के बारे में नहीं होती हैं – वे व्यवसाय तर्क को पुनः लिखने के बारे में हैं। यह प्रतिस्पर्धी द्वारा प्रतिकृति नहीं की जा सकने वाली विशिष्ट संदर्भ की तरह दिखता है क्योंकि यह एक विशिष्ट उद्यम के भीतर उत्पादन के महीनों के माध्यम से उत्पन्न हुआ था। और यह एक निरंतर विशेषज्ञता लूप की तरह दिखता है जहां सिस्टम वास्तव में उस ग्राहक के लिए बेहतर हो जाता है जो एक जेनेरिक मॉडल प्रदाता कभी नहीं होगा।
मॉडल युग ने हमें कच्ची क्षमता दी। सिस्टम युग वह है जहां वह क्षमता वास्तविक दुनिया का मूल्य बन जाती है।
उद्यमों को एक एकल फ्रंटियर मॉडल पर निर्भर रहने के बजाय रूटिंग तर्क, एस्केलेशन पथ और निरंतर मूल्यांकन सहित एक मल्टी-मॉडल रणनीति का निर्माण कैसे करना चाहिए?
उद्यमों को पहली बात यह समझनी होगी कि “सबसे अच्छा मॉडल का उपयोग करें” एक हारी हुई रणनीति है। यह सबसे वरिष्ठ इंजीनियर के माध्यम से हर प्रश्न चलाने जैसा है। यह महंगा है, यह धीमा है, और – विरोधाभासी रूप से – यह अक्सर सर्वोत्तम परिणाम नहीं देता है।
यह मुझे जिसे मैं जैग्ड फ्रंटियर ऑफ इन्फरेंस कहता हूं, उस पर ले जाता है: मॉडल प्रदर्शन कार्य-विशिष्ट और अप्रत्याशित है। फ्रंटियर मॉडल अक्सर विशिष्ट कार्यों पर छोटे, विशेषज्ञ मॉडल से हारते हैं। हमने सीआरएम कार्यों पर 72.7% सटीकता के साथ संयुक्त मॉडल प्रणाली को देखा है जहां फ्रंटियर मॉडल ने 58% स्कोर किया। प्रदर्शन सतह पैरामीटर गिनती के साथ सुंदर रूप से सहसंबद्ध नहीं है। तो वास्तविक प्रश्न यह नहीं है कि “कौन सा मॉडल सबसे अच्छा है?” – यह “यह विशिष्ट उपकार्य के लिए कौन सा मॉडल सबसे अच्छा है?”
यह पुनरावृत्ति एक वास्तविक बहु-मॉडल रणनीति का आधार है। मैं उद्यमों को इसे तीन परतों में सोचने के लिए कहूंगा।
रूटिंग तर्क आपके अनुमान परिदृश्य को मैप करने से शुरू होता है। अपने सिस्टम में हर बिंदु पर एक एलएलएम कॉल बनाएं, और प्रत्येक के लिए, कार्य प्रकार, इनपुट/आउटपुट जटिलता, विलंब आवश्यकताओं, सटीकता थ्रेशोल्ड और कॉल वॉल्यूम को दस्तावेज़ करें। इससे आपको एक हीट मैप मिलता है। आप जल्दी से पाएंगे कि आपके अधिकांश वॉल्यूम उच्च-आवृत्ति कार्य हैं – वर्गीकरण, इकाई निष्कर्षण, इरादा मार्गदर्शन, टेम्पलेट पीढ़ी – जहां एक अच्छी तरह से ट्यून किया गया छोटा मॉडल फ्रंटियर मॉडल को मात देता है या इसके बराबर होता है, लागत का एक अंश है। अपने महंगे फ्रंटियर कॉल को उन कार्यों के लिए आरक्षित रखें जिन्हें वास्तव में जटिल तर्क की आवश्यकता होती है। एक एजेंट जो प्रति कार्य 50 कॉल करता है उसे सभी 50 के लिए जीपीटी-4 की आवश्यकता नहीं है।
एस्केलेशन पथ बुद्धिमान फॉलबैक बनाने के बारे में हैं, न कि केवल फेलओवर। सिस्टम को पहचानने में सक्षम होना चाहिए कि जब एक छोटा मॉडल कम-विश्वास वाले परिणाम लौटा रहा है और एक अधिक क्षमता वाले मॉडल या एक अलग मॉडल-रणनीति संयोजन में एस्केलेट करना चाहिए। यह वह जगह है जहां परीक्षण-समय कंप्यूटे रणनीतियां आती हैं। कभी-कभी सही उत्तर एक बड़ा मॉडल नहीं है – यह उसी मॉडल के साथ चेन-ऑफ-थॉट, बीम खोज या बेस्ट-ऑफ-एन नमूना है। ऑप्टिमल कॉन्फ़िगरेशन मॉडल द्वारा नहीं बदलता है, बल्कि इसके साथ जोड़े जाने वाले सोच एल्गोरिदम द्वारा भी बदलता है।
निरंतर मूल्यांकन वह टुकड़ा है जिसे अधिकांश उद्यम पूरी तरह से याद करते हैं, और यह वह जगह है जहां वास्तविक रक्षा उत्पन्न होती है। मॉडल चयन एक बार का निर्णय नहीं है – यह एक निरंतर अनुकूलन समस्या है। नए मॉडल लगातार रिलीज़ होते हैं, आपके उपयोग के मामले विकसित होते हैं, और प्रदर्शन उन तरीकों से खराब हो जाता है जो चुपचाप विफल हो जाते हैं। आपको यह नहीं पता होगा कि आपका ग्राहक सेवा बॉट ने 40% खराब उत्तर दिया क्योंकि आपने उस प्रश्न प्रकार के लिए गलत मॉडल का उपयोग किया – आप केवल तीन महीने बाद गिरावट देखेंगे। आपको ऐसे बुनियादी ढांचे की आवश्यकता है जो वास्तविक प्रदर्शन डेटा के आधार पर मॉडल-कार्य संयोजनों पर क्या वास्तव में काम करता है, इसका मूल्यांकन करता है और मार्गदर्शन के आधार पर समायोजित करता है, न कि बेंचमार्क के आधार पर।
अधिकांश कंपनियों ने इस स्थानांतरण को क्यों नहीं बनाया है, इसका कारण यह है कि कोई भी फ्रंटियर मॉडल चुनने के लिए निकाल नहीं दिया जाता है – यह एआई के लिए “कोई भी आईबीएम खरीदने के लिए निकाल नहीं दिया जाता है” है। विक्रेता पारिस्थितिकी तंत्र फ्रंटियर को बढ़ावा देता है क्योंकि वहां मार्जिन हैं। और वास्तव में एक बहु-मॉडल वास्तुकला चलाने के लिए आवश्यक ऑर्केस्ट्रेशन बुनियादी ढांचा – रूटिंग तर्क, फॉलबैक तंत्र, मॉडल प्रबंधन, दृश्यता – अधिकांश कंपनियों में मौजूद नहीं है। वे एक स्थानीय अनुकूलता में फंसे हुए हैं जहां बहु-मॉडल की स्विचिंग लागत और अनिश्चितता फ्रंटियर अनुमान पर लगातार अधिक खर्च की तुलना में अधिक महसूस होती है।
एआई पायलट से उत्पादन-ग्रेड प्रणालियों में जाने वाली कंपनियों में आप सबसे बड़ी गलतियां क्या देखते हैं?
वे मानते हैं कि उनकी पसंद स्थिर और लंबे समय तक चलने वाली हो सकती है। वास्तव में, एआई के लिए प्रौद्योगिकी स्टैक की हर परत तेजी से बदल रही है। कंपनियों को ऐसे निर्णय लेने की आवश्यकता है जो विकल्प और लचीलापन प्रदान करते हैं।
आपने दैनिक कार्यों में छोटे, कार्य-विशिष्ट मॉडल को बड़े फ्रंटियर मॉडल को पार करते हुए देखा है, और यह रणनीतिक रूप से क्यों महत्वपूर्ण है?
हमने इसे लगभग हर सामान्य दैनिक कार्य में देखा है – बुनियादी लेखांकन, पाठ सारांश, विभिन्न दस्तावेजों से इकाई निष्कर्षण जैसी चीजें। हमने सैकड़ों कार्य कार्यों के लिए एसएलएम की खोज की है और वे लगभग हमेशा जीतते हैं यदि समस्या ठीक से संरचित है।
आपने एआई को नए उपयोग मामलों में तैनात करने की लागत में गिरावट के बारे में लिखा है। यह एआई के लंबी अवधि के आर्थिकी को कैसे प्रभावित करता है?
बबल कथा मानती है कि एआई राजस्व के लिए नए मॉडल में आनुपातिक अनुसंधान और विकास निवेश की आवश्यकता होती है। ऐसा नहीं है। मॉडल बनाए गए हैं। बुनियादी ढांचा मौजूद है। प्रत्येक अतिरिक्त उपयोग मामला एक प्रोम्प्ट है, एक डेटा कनेक्शन, शायद कुछ हल्के फाइन-ट्यूनिंग – एक और $100M प्रशिक्षण रन नहीं। लागत की घटती हुई वक्र जैसे ही प्लेटफ़ॉर्म परिपक्व होता है।
यह रेलमार्ग या दूरसंचार के विपरीत है, जहां प्रत्येक नई ट्रैक मील महंगी थी। एआई में, इंजन बनाना महंगा था। इंजन से चीजों को जोड़ना सस्ता है, और यह सस्ता हो रहा है – अनुमान लागतें दो वर्षों में लगभग 1,000 गुना कम हो गई हैं। उद्यमों के लिए प्रश्न यह नहीं है कि क्या एआई भुगतान करता है। यह है कि कितने उपयोग के मामलों को आप एक ही बुनियादी ढांचे पर ढेर कर सकते हैं इससे पहले कि राजस्व वक्र लागत वक्र को पार कर जाए।
मॉडल को स्विच करने, फाइन-ट्यून करने या विशेष छोटे कार्य मॉडल बनाने का निर्णय लेने के लिए तकनीकी टीमें किन संकेतों का उपयोग कर सकती हैं?
संकेत तकनीकी नहीं हैं। वे प्रदर्शन या आर्थिक रूप से चलने वाले हैं। उदाहरण के लिए, मॉडल को स्विच करना, फाइन-ट्यून करना या कस्टम एसएलएम बनाना सभी काम कर सकते हैं। निर्णय इस बात पर निर्भर करता है कि क्या आप विलंब या लागत के लिए अनुकूलित कर रहे हैं, कार्य कितनी बार निष्पादित किया जाता है, और प्रत्येक समाधान को बनाने और तैनात करने में कितना समय लगता है।
आप गवर्नेंस और निगरानी को कैसे डिज़ाइन करते हैं तो यह वास्तव में उपयोग के साथ बढ़ जाता है, न कि एक बोतलनेक बन जाता है?
अधिकांश उद्यम जो गलती करते हैं वह है गवर्नेंस को एक चेकपॉइंट के रूप में मानते हैं – एक मैनुअल समीक्षा परत जो एआई कार्य प्रवाह के शीर्ष पर जुड़ी हुई है। यह स्केल नहीं करता है। यह उस पल में बोतलनेक बन जाता है जब उपयोग बढ़ता है।
गवर्नेंस को ऑर्केस्ट्रेशन परत में ही एम्बेड किया जाना चाहिए। जब आपका रूटिंग इन्फ्रास्ट्रक्चर पहले से ही प्रत्येक अनुमान कॉल का मूल्यांकन करता है – कौन सा मॉडल, कौन सा कार्य, क्या विश्वास स्तर – तो गार्डरेल जोड़ना एक हाशिए की लागत है, एक नया सिस्टम नहीं। वही परत जो क्वेरी को संभालने वाले मॉडल का निर्धारण करती है नीति को लागू कर सकती है: पीआईआई फिल्टरिंग कॉल से पहले, आउटपुट सत्यापन बाद में, ऑडिट ट्रेल्स स्वचालित रूप से कब्जा कर लिया गया, विभाग द्वारा लागत आवंटन।
मुख्य अंतर्दृष्टि यह है कि उद्यम एआई सिस्टम के भीतर विफल नहीं होते हैं। वे बीच में विफल होते हैं – हाथों में, एस्केलेशन और अपवादों में। गवर्नेंस जो स्केल करती है वह एक नियंत्रण विमान की तरह दिखती है जो हर एआई क्रिया को सुरक्षित, ऑडिट करने योग्य और पुनरावृत्ति योग्य बनाती है, न कि एक बाधा के रूप में।
आज के एआई परिदृश्य की तुलना मेनफ्रेम से पीसी में संक्रमण से करने के लिए आप क्या देखते हैं? सिस्टम परत में निर्माण करने वाले स्टार्टअप के लिए यह विकेंद्रीकरण का क्या अर्थ है?
हम एआई के मेनफ्रेम चरण में हैं। बड़े, केंद्रीकृत फ्रंटियर मॉडल ओपनएआई, एंथ्रोपिक और गूगल से आवश्यक थे ताकि प्रयासों को केंद्रित किया जा सके और यह प्रदर्शित किया जा सके कि एआई क्या कर सकता है। उस चरण ने काम किया। क्षमताएं अच्छी तरह से समझी जाती हैं। लेकिन जैसे ही कंप्यूटिंग केंद्रीकृत नहीं रही, एआई भी नहीं रहेगा। हम पीसी युग में प्रवेश कर रहे हैं – एक विकेंद्रीकृत पारिस्थितिकी तंत्र जहां छोटे, विशेषज्ञ मॉडल काम के करीब चलते हैं।
(GOOGL )व्यय डेटा पहले से ही इसका प्रतिबिंब करता है। एंटरप्राइज एआई निवेश अब बुनियादी ढांचे और अनुप्रयोगों के बीच लगभग समान रूप से विभाजित है, और अनुप्रयोग हिस्सा तेजी से बढ़ रहा है। विस्तार क्षैतिज है – एचआर, कानूनी, विपणन, ऑपरेशन, वित्त में – नीचे बड़े मॉडल में नहीं।
सिस्टम परत में निर्माण करने वाले स्टार्टअप के लिए, यह पीढ़ी का अवसर है। एक केंद्रीकृत दुनिया में, मॉडल प्रदाता अधिकांश मूल्य को पकड़ लेता है। एक विकेंद्रीकृत दुनिया में, मूल्य ऑर्केस्ट्रेशन, रूटिंग, मूल्यांकन और विशेषज्ञता – एआई मॉडल को विकसित करने की संचालन चुनौतियों में स्थानांतरित हो जाता है।
मेरा अनुमान है कि एआई के लगभग 25% अनुमान फ्रंटियर मॉडल की आवश्यकता होगी। वे कंपनियां ठीक होंगी – यह एक ट्रिलियन डॉलर का बाजार है। लेकिन 75% खुले स्रोत और छोटे विशेषज्ञ कार्य मॉडल पर चलेंगे। हमने एक 4-बिलियन-पैरामीटर मॉडल प्रशिक्षित किया जिसने एक विशिष्ट सीआरएम कार्य पर फ्रंटियर मॉडल को हराया, और यह इतना सस्ता है कि यह लगभग मुफ्त है। यह भविष्य है – और इसके लिए एक पूरी नई सिस्टम परत की आवश्यकता है जो इसे प्रबंधित करे।
संवाद पूरी तरह से चलता है: मेनफ्रेम विक्रेता ठीक हो जाएंगे, लेकिन वास्तविक धन सृजन पीसी पारिस्थितिकी तंत्र में होगा। एआई में भी ऐसा ही होगा।
पांच साल दूर देखें, क्या आप मानते हैं कि फ्रंटियर मॉडल प्रदाता अधिकांश मूल्य को पकड़ लेंगे, या अधिकांश आर्थिक प्रभाव ऑर्केस्ट्रेशन, अनुकूलन और फ्रंटियर मॉडल के चारों ओर निर्मित लागू प्रणालियों से आएगा?
मुझे लगता है कि एआई अनुमान बाजार दुनिया के इतिहास में सबसे बड़े बाजारों में से एक होगा। इसका अर्थ है कि फ्रंटियर मॉडल प्रयोगशाला बहुत अच्छा प्रदर्शन करेगी और अभी भी उन कंपनियों के लिए बड़े अवसर होंगे जो उनके चारों ओर निर्माण कर रहे हैं। जब आपके पास ट्रिलियन डॉलर के बाजार होते हैं, तो उन बाजारों में छोटे किनारे के मामलों को हल करना अरब डॉलर की कंपनियों में बदल सकता है।
धन्यवाद महान साक्षात्कार के लिए, पाठक जो अधिक जानना चाहते हैं उन्हें न्यूरोमेट्रिक एआई पर जाना चाहिए, या उन्हें इन्वेस्टिंग इन एआई समाचार पत्र की सदस्यता लेनी चाहिए।
