सोह्राब होसैनी, ऑर्क्यू.एआई के सह-संस्थापक – साक्षात्कार श्रृंखला

सोह्राब होसैनी, ऑर्क्यू.एआई के सह-संस्थापक, एक प्रौद्योगिकी नेता और उद्यमी हैं जो एम्स्टर्डम क्षेत्र में आधारित हैं और जिनके पास सास, बड़े पैमाने पर सिस्टम और लागू किए गए एआई में गहरा अनुभव है। ऑर्क्यू.एआई की स्थापना 2022 में करने के बाद, उन्होंने व्यावहारिक बुनियादी ढांचे को बनाने पर ध्यान केंद्रित किया है जो टीमों को बड़े भाषा मॉडलों को प्रयोग से विश्वसनीय उत्पादन उपयोग में ले जाने में मदद करता है। उनकी पृष्ठभूमि में नियोक्ल्स में सीओओ और सीटीओ के रूप में वरिष्ठ नेतृत्व भूमिकाएं शामिल हैं, ट्रांसडेव में भविष्य की प्रौद्योगिकी के सीटीओ जहां उन्होंने स्वायत्त मार्ग और बेड़े प्रबंधन पर काम किया, और ट्रेडयोरट्रिप में सीओओ। समानांतर में, वह एक सलाहकार और एंजेल निवेशक के रूप में सक्रिय हैं, जो उत्पाद दिशा, तकनीकी निर्णय और कार्यान्वयन रणनीति के साथ प्रारंभिक चरण की एआई कंपनियों का समर्थन करते हैं।

ऑर्क्यू.एआई एक जनरेटिव एआई सहयोग और एलएलएमओपीएस प्लेटफ़ॉर्म है जो संगठनों को वास्तविक दुनिया के वातावरण में एआई संचालित उत्पादों और एजेंटों को डिज़ाइन, संचालित और स्केल करने में मदद करने के लिए बनाया गया है। प्लेटफ़ॉर्म प्रॉम्प्ट प्रबंधन, प्रयोग, प्रतिक्रिया संग्रह और प्रदर्शन और लागत में वास्तविक समय दृश्यता को एक ही कार्यस्थान में लाता है, जबकि सभी प्रमुख बड़े भाषा मॉडल प्रदाताओं के साथ संगत रहता है। तकनीकी और गैर-तकनीकी टीमों के बीच घनिष्ठ सहयोग को सक्षम करके, ऑर्क्यू.एआई कंपनियों को रिलीज़ चक्रों को छोटा करने, शासन और पारदर्शिता में सुधार करने और उत्पादन में एआई प्रणालियों को चलाने की जटिलता और लागत को कम करने में मदद करता है।

आपके पास स्वायत्त प्रणाली, बेड़े प्रबंधन प्रौद्योगिकी और सास प्लेटफ़ॉर्म में वरिष्ठ तकनीकी और परिचालन भूमिकाएं रही हैं — 2022 में एआई एजेंटों के लिए एक उद्यम-ग्रेड नियंत्रण परत बनाने के लिए आपके इस करियर पथ ने आपके निर्णय को कैसे आकार दिया?

हमारी पृष्ठभूमि हमेशा इंजीनियरिंग टीमों का नेतृत्व करने और सक्षम करने वाले प्लेटफ़ॉर्म पर ध्यान केंद्रित करने के बारे में रही है; चीजें जैसे क्लाउड, डेवओप्स और डेटा सक्षम करना, विशेष रूप से हमारे समय के दौरान प्रौद्योगिकी परामर्शदाता के रूप में। जब जनरेटिव एआई बूम शुरू हुआ, तो मेरे सह-संस्थापक और मैंने खुद से पूछा कि उद्यमों को न केवल एआई बनाने के लिए, बल्कि इसे ठीक से शासन और नियंत्रित करने के लिए किस प्रकार के सक्षम करने की आवश्यकता होगी?

हमने देखा कि वास्तविक आवश्यकता एआई एजेंटों के लिए एक उद्यम-ग्रेड नियंत्रण परत की थी। इससे हमें ऑर्क्यू.एआई बनाने के लिए प्रेरित किया।

जब आप पहली बार ऑर्क्यू.एआई लॉन्च किया, तो आपने बाजार में क्या देखा जो आपको यह विश्वास दिलाने के लिए पर्याप्त था कि वास्तविक बोतलनेक मॉडल की गुणवत्ता नहीं थी, बल्कि विश्वसनीय उत्पादन में डेमो से एजेंटिक प्रणाली ले जाने में असमर्थता थी?

हमने हमेशा माना है कि जब आप नवाचारी सॉफ़्टवेयर बना रहे हैं, तो आपको भविष्य के लिए बनाना होगा। शुरू से ही, हमने माना कि बड़े भाषा मॉडल समय के साथ बेहतर और स्मार्ट होते रहेंगे। इसलिए, हमने जो चुनौती देखी वह मॉडल की गुणवत्ता स्वयं नहीं थी, बल्कि नियंत्रण, शासन और जीवनचक्र प्रबंधन के मुद्दे थे जो तब उत्पन्न होते हैं जब आप एक डेमो से वास्तविक उत्पादन वातावरण में जाने का प्रयास करते हैं।

दूसरे शब्दों में, भले ही मॉडल बेहतर होते जा रहे हों, हमारे ग्राहकों (और हमारे लिए) के लिए वास्तविक मूल्य यह सुनिश्चित करना है कि ये प्रणाली वास्तव में उत्पादन में विश्वसनीय रूप से चलती हैं। और यही हमने हल करने का प्रयास किया है।

अधिकांश टीमें प्रभावशाली प्रोटोटाइप बना सकती हैं, लेकिन रनटाइम ऑर्केस्ट्रेशन, शासन और निगरानी के साथ संघर्ष करती हैं। आपके विचार में, जब इंजीनियरिंग टीमें एक प्रूफ़-ऑफ़-कॉन्सेप्ट वातावरण से एक लाइव प्रोडक्शन एजेंट में स्केल करने का प्रयास करती हैं, तो सबसे बड़ा ब्रेकेज पॉइंट क्या है?

सबसे बड़ा ब्रेकेज पॉइंट यह है कि टीमें अक्सर सोचती हैं कि यह एक सीधा, रैखिक मार्ग है जो एक एजेंट बनाने से लेकर इसे पूरा करने तक है। वास्तव में, यह एक बहुत ही पुनरावृत्ति प्रक्रिया है।

आप अपने अनुमानों को लगातार समायोजित कर रहे हैं, उन्हें परीक्षण कर रहे हैं, चीजों को उत्पादन में ले जा रहे हैं, और फिर वास्तविक दुनिया में क्या होता है यह देख रहे हैं। आप एज केस पाते हैं, और फिर आप उस चक्र को फिर से शुरू करते हैं।

चुनौती यह है कि यह एक बार का प्रयास नहीं है; यह एक निरंतर पुनरावृत्ति चक्र है। और इस पर निर्माण करने के लिए, यह न केवल पुनरावृत्ति है; यह है कि अक्सर इस प्रक्रिया को चिकनी तरह से समर्थन देने के लिए पर्याप्त टूलिंग या स्कैफ़ोल्डिंग नहीं है।

आपको एक तरीका चाहिए जिससे डोमेन विशेषज्ञ, उत्पाद प्रबंधक और इंजीनियर बिना सिलोस या महंगे हैंडओवर के बनाएं जो बहुत समय बर्बाद करते हैं। इसलिए यह एक और बड़ा टुकड़ा है: यह सुनिश्चित करना कि सभी हितधारक कुशलता से एक साथ पुनरावृत्ति कर सकें। और यह कुछ ऐसा है जिसे हम वास्तव में हल करने का प्रयास कर रहे हैं।

ऑर्क्यू.एआई खुद को एक एकीकृत नियंत्रण परत के रूप में स्थिति देता है जो प्रयोग, मूल्यांकन, दृश्यता और रनटाइम को कवर करता है। आपने एक अंत-से-अंत वास्तुकला क्यों आवश्यक माना, इसके बजाय अलग-अलग उपकरण प्रदान करने के बजाय?

जब आप शुरू करते हैं, तो यह प्राकृतिक है कि आप उस एक उपकरण को चुनें जो आपके सबसे बड़े दर्द बिंदु को उस क्षण में हल करता है, अक्सर यह दृश्यता हो सकती है। लेकिन जैसे ही आपकी टीम विकसित होती है, आप अगले बोतलनेक में चलते हैं और एक और उपकरण जोड़ते हैं, उदाहरण के लिए, एक एआई गेटवे। इससे पहले कि आप यह जानें, आपके पास अपने परिदृश्य में पांच से सात अलग-अलग उपकरण हैं। डेटा खंडित हो जाता है, लोग दृश्यता खो देते हैं, और आप सिर्फ इन सभी एकीकरणों को बनाए रखने में संसाधन बर्बाद करते हैं। आप अपने जीवनचक्र में एकीकृत दृश्यता खो देते हैं।

हमने माना कि जैसे ही एजेंट-संचालित उद्यम उभरते हैं, आपको वास्तव में उस अंत-से-अंत वास्तुकला की आवश्यकता है। आपको अपने संगठन में अपने सभी एजेंटों के लिए एक एकीकृत दृश्यता की आवश्यकता है, न कि खंडित बिंदु समाधान। यही कारण है कि हमने इसे अलग तरह से नहीं देखा।

नए एजेंट स्टूडियो और पुनः डिज़ाइन किए गए रनटाइम के साथ, आप यूरोप और यूएस में शुरुआती ग्राहकों से प्रतिक्रिया के आधार पर कौन से प्रमुख दर्द बिंदु हल करने का प्रयास कर रहे थे?

हमने जो देखा वह यह था कि टीमें अपने एजेंटों को बनाने के लिए विभिन्न प्रकार के ओपन-सोर्स लाइब्रेरी का उपयोग कर रही थीं, हालांकि एक एजेंट की वास्तुकला वास्तव में साफ और सरल हो सकती है। वे फुलाए हुए लाइब्रेरी के साथ समाप्त हो गए, बहुत अधिक ओवरहेड, और एक बड़ा शिक्षा वक्र जो कि भी सरल एजेंटों को बाहर निकालने के लिए था। ऑर्क्यू के साथ, हम उस बोझ को उतार देना चाहते थे।

इसके बजाय वास्तुकला के बारे में चिंता करने के, कंप्यूट, ऑटोस्केलिंग, सभी बुनियादी ढांचे के बारे में चिंता करने के, टीमें अपने एजेंटों को कॉन्फ़िगर करने और उन्हें सही उपकरण और एपीआई देने पर ध्यान केंद्रित कर सकती हैं। हम भारी उठाने को संभालते हैं ताकि वे अपने वास्तविक उपयोग के मामलों पर ध्यान केंद्रित कर सकें। और इसके शीर्ष पर, क्योंकि हम पूरे जीवनचक्र का समर्थन करते हैं, हमने विशेष कार्यशालाएं बनाई हैं जो आपको वास्तव में अपने एजेंटों को बड़े पैमाने पर परीक्षण करने देती हैं।

इसका अर्थ है कि आप तेजी से एज केस पा सकते हैं और अपने एजेंटों को अधिक प्रभावी ढंग से कठोर बना सकते हैं। यह सब टीमों को न केवल एजेंटों को आसानी से बनाने के लिए उपकरण प्रदान करने के बारे में है, बल्कि उन्हें वास्तविक दुनिया के दृश्यों में परिष्कृत और कठोर बनाने के लिए, बिना अतिरिक्त परेशानी के।

जीडीपीआर और ईयू एआई अधिनियम के कारण आवश्यकताओं को कस लेने के साथ, ये नियम कैसे उद्यमों को एजेंटों को डिज़ाइन, निगरानी और तैनात करने के तरीके को प्रभावित कर रहे हैं — और ऑर्क्यू.एआई कैसे अनुकूलन कर रहा है?

यह इतना नहीं है कि ये आवश्यकताएं अचानक कस रही हैं, वे कानून का हिस्सा हैं, और हमारे ग्राहकों को उन्हें पालन करना होगा। हम जो कर रहे हैं वह यह सुनिश्चित करना है कि पूरे जीवनचक्र में, हम टीमों को सही उपकरण, मूल्यांकनकर्ता और गार्डरेल देते हैं ताकि वे दिन एक से अनुपालन बना सकें।

हम यह सुनिश्चित करते हैं कि डेटा निवास, डेटा गोपनीयता, सभी चीजें शुरू से ही बेक की जाती हैं। और भू-राजनीतिक तनाव और यूरोप में प्रौद्योगिकी और एआई की संप्रभुता के लिए धक्का के साथ, हमें इसकी बहुत मांग देखी गई है। चूंकि हम पूरी तरह से ऑन-प्रिमाइसेस पर चल सकते हैं और उद्यमों को अपनी निर्भरता को कम करने में मदद कर सकते हैं, हम उन्हें अपने भाग्य को नियंत्रित करने में मदद करने के लिए एक अच्छी स्थिति में हैं।

उद्यम बढ़ते रूप से संप्रभु-तैयार वास्तुकला और हाइब्रिड/ऑन-प्रीमाइसेस तैनाती की मांग कर रहे हैं। यह बदलाव आपको कहां की ओर इंगित करता है कि उद्यम एआई बुनियादी ढांचे का रुझान कहां है?

प्रत्येक उद्यम और यहां तक कि प्रत्येक उपयोग के मामले में ट्रेड-ऑफ शामिल होते हैं। यह तैयार-तैयार और सुरक्षित/ऑन-प्रीमाइसेस होने की आवश्यकता के बीच एक प्रश्न है। हम हर फ्लेवर का समर्थन करते हैं जो उस स्पेक्ट्रम में है। लेकिन जो हम देख रहे हैं वह मॉडल पर संप्रभुता और डेटा निवास पर एक मजबूत फोकस है।

ग्राहक डेटा के निवास और बड़े क्लाउड प्रदाताओं पर निर्भरता को कम करने की क्षमता पर स्पष्टता चाहते हैं। हमारे एआई गेटवे के लिए धन्यवाद, जो सभी प्रमुख क्लाउड प्लेटफ़ॉर्म और ऑन-प्रीमाइसेस पर चलता है, टीमें उपयोग के मामले के आधार पर उन ट्रेड-ऑफ को आसानी से बना सकती हैं। वे लचीलापन प्राप्त करते हैं और नियंत्रण में रहते हुए पर्यावरण के बीच सुचारू रूप से चलते हैं।

हम बड़े उद्यमों और सार्वजनिक क्षेत्र के संस्थानों से मांग में एक बड़ा उछाल देख रहे हैं।

कैसे आप बहु-एजेंट कार्यप्रवाह, सुरक्षा गार्डरेल और अधिक उन्नत तर्क प्रणालियों को विकसित होते हुए देखते हैं क्योंकि उद्यम प्रयोग से सच्चे एजेंट औद्योगीकरण में 2026 में आगे बढ़ रहे हैं?

जैसे ही एजेंटों का उपयोग वास्तव में औद्योगिक होता है, हम नए प्रकार की समस्याओं को देख रहे हैं, विशेष रूप से बहु-एजेंट सेटअप के साथ। आपके पास किसी भी समय आपके संगठन में दर्जनों या सैकड़ों एजेंट चल सकते हैं, जैसे कर्मचारी।

प्रश्न यह है: आप उन सभी को कैसे शासन करते हैं जब आपके पास लागत, डेटा गुणवत्ता, डेटा निवास, सहीपन, हॉलुसिनेशन मेट्रिक्स और इस तरह के मुद्दों का एक बहु-आयामी सेट है? आपको एक नई शासन परत की आवश्यकता है जो इसे संभाल सके। और आपको शीर्ष-नीचे तैनात की जा सकने वाली सुरक्षा गार्डरेल की आवश्यकता है।

आपको शीर्ष-नीचे दृश्यता और नए संग्रह परतों की भी आवश्यकता है ताकि आपका सीएफओ, सीओओ, सीआईएसओ देख सके कि क्या हो रहा है और कार्रवाई योग्य अंतर्दृष्टि के साथ हस्तक्षेप कर सकें। हम वास्तव में सोचते हैं कि 2026 में, यह पूरा “एजेंट विभाग” की अवधारणा और इसे समर्थन देने वाली प्रौद्योगिकी एक बहुत गर्म विषय बन जाएगी।

एजेंट ड्रिफ्ट, गुणवत्ता प्रगति, और अस्पष्ट डेटा प्रवाह उत्पादन एआई में बार-बार आने वाली समस्याएं हैं। ऑर्क्यू.एआई का नियंत्रण परत इन दीर्घकालिक अंतरालों को संस्करण, मूल्यांकन और निरंतर निगरानी में कैसे संबोधित करता है?

प्रत्येक एजेंट को वास्तव में अपने मूल्यांकन का एक हार्नेस की आवश्यकता होती है। ये मूल्यांकन मूल रूप से उस विशिष्ट परिदृश्य के लिए क्या सही और गलत है, यह परिभाषित करते हैं। इन मूल्यांकन सेटों को सही ढंग से स्थापित करने में समय बिताने से, टीमें ऑफ़लाइन प्रयोग करने में बेहतर हो सकती हैं और देख सकती हैं कि चीजें कैसे व्यवहार करती हैं इससे पहले कि वे लाइव हों। और फिर इन मूल्यांकनों की ऑनलाइन निगरानी करके, आप देख सकते हैं कि जब मॉडल ड्रिफ्ट होते हैं या जब एजेंट व्यवहार बदलने लगता है तो क्या होता है। इस तरह, आपके पास ऑफ़लाइन परीक्षण, ऑनलाइन निगरानी और गार्डरेलिंग के दौरान गुणवत्ता मेट्रिक्स का एक सुसंगत सेट है।

आगे देखते हुए, आपको लगता है कि अगली पीढ़ी के उद्यम-ग्रेड एआई एजेंटों को क्या परिभाषित करेगा — और ऑर्क्यू.एआई इस दुनिया में डिफ़ॉल्ट ऑपरेशनल प्लेटफ़ॉर्म बनने के लिए खुद को कैसे स्थिति दे रहा है?

आगे देखते हुए, मुझे लगता है कि अगली पीढ़ी के उद्यम एआई एजेंटों को परिभाषित करने वाली बात यह होगी कि प्रत्येक विक्रेता अपने एजेंट प्रदान करेगा। बड़े उद्यमों में, यह पहले पार्टी और तीसरे पक्ष के एजेंटों का एक व्यापक परिदृश्य होगा जो एक दूसरे पर कॉल कर रहे हैं।

यह केवल एक प्रकार का एजेंट या एक विक्रेता नहीं होगा; यह एक पूरा पारिस्थितिकी तंत्र होगा जिसे शासन और अनुपालन की आवश्यकता होगी। और यही है जहां ऑर्क्यू आता है। हम खुद को एजेंट नियंत्रण टावर के रूप में स्थिति दे रहे हैं जो संगठन के विभिन्न परतों को सही एकीकृत दृश्यता और कार्रवाई योग्य अंतर्दृष्टि प्रदान करता है ताकि वे किसी भी चरण में हस्तक्षेप कर सकें।

चाहे वह निर्माण, स्केलिंग, संचालन या यहां तक कि एजेंटों को ऑफ़बोर्डिंग करना हो, विभिन्न कार्यों को उस परिदृश्य के विभिन्न दृश्यों की आवश्यकता होगी। और हम उस क्षमता के लिए जाने वाले प्रदाता बनने जा रहे हैं।

साक्षात्कार के लिए धन्यवाद, पाठक जो अधिक जानना चाहते हैं उन्हें ऑर्क्यू.एआई पर जाना चाहिए।