साक्षात्कार
योतम ओरेन, मोना लैब्स के सीईओ और सह-संस्थापक – साक्षात्कार श्रृंखला
Unite.AI को Google पर अपने पसंदीदा स्रोतों में जोड़ें
योतम ओरेन मोना लैब्स के सीईओ और सह-संस्थापक हैं, जो एक ऐसा प्लेटफ़ॉर्म है जो उद्यमों को एआई पहलों को प्रयोगशाला प्रयोगों से व्यवसायिक संचालन में बदलने में सक्षम बनाता है, जो वास्तविक व्यवसाय प्रक्रियाओं और अनुप्रयोगों में एमएल मॉडल कैसे व्यवहार करते हैं, इसकी सच्ची समझ के माध्यम से।
मोना स्वचालित रूप से सुरक्षित डेटा खंडों और व्यवसायिक कार्यों के संदर्भ में मशीन लर्निंग मॉडल के व्यवहार का विश्लेषण करता है, ताकि संभावित एआई पूर्वाग्रह का पता लगाया जा सके। मोना उद्योग मानकों और विनियमों को पूरा करने वाली पूर्ण न्यायसंगतता रिपोर्ट उत्पन्न करने की क्षमता प्रदान करता है, और यह विश्वास प्रदान करता है कि एआई अनुप्रयोग अनुपालन और पूर्वाग्रह से मुक्त है।
आपको कंप्यूटर विज्ञान में शुरुआती रुचि क्या थी?
कंप्यूटर विज्ञान मेरे परिवार में एक लोकप्रिय करियर पथ है, इसलिए यह हमेशा मेरे दिमाग में एक व्यवहार्य विकल्प के रूप में था। इज़राइली संस्कृति बहुत ही प्रौद्योगिकी-अनुकूल है। हम नवाचारी प्रौद्योगिकीविदों का जश्न मनाते हैं और मुझे हमेशा यह धारणा थी कि सीएस मुझे विकास और उपलब्धि के लिए एक रनवे प्रदान करेगा।
इसके बावजूद, यह केवल तभी एक व्यक्तिगत जुनून बन गया जब मैं विश्वविद्यालय की उम्र तक पहुंचा। मैं उन बच्चों में से नहीं था जो मध्य विद्यालय में कोडिंग शुरू करते थे। अपनी युवावस्था में, मैं कंप्यूटरों पर ध्यान देने के लिए बहुत व्यस्त था क्योंकि मैं बास्केटबॉल खेल रहा था। हाई स्कूल के बाद, मैंने सैन्य में लगभग 5 साल बिताए, जिसमें ऑपरेशनल/संघर्ष नेतृत्व भूमिकाएं शामिल थीं। इसलिए, मैं वास्तव में कंप्यूटर विज्ञान के बारे में अधिक जानना शुरू किया जब मुझे विश्वविद्यालय में एक शैक्षणिक प्रमुख चुनने की आवश्यकता थी। जिस चीज ने मेरा ध्यान आकर्षित किया वह यह थी कि कंप्यूटर विज्ञान समस्याओं का समाधान करने और एक भाषा (या भाषाओं) सीखने को जोड़ती है। दो चीजें जिनमें मुझे विशेष रूप से रुचि थी। उसके बाद से, मैं इसका दीवाना हो गया।
2006 से 2008 तक आप एक छोटे स्टार्टअप में मैपिंग और नेविगेशन पर काम करते थे, उस युग से आपके कुछ प्रमुख निष्कर्ष क्या थे?
मेरी भूमिका टेलमैप में मानचित्र और स्थान डेटा के ऊपर एक खोज इंजन बनाने की थी।
यह “बिग डेटा” के उद्यम में बहुत शुरुआती दिन थे। हम इसे तब नहीं कह रहे थे, लेकिन हम बड़े डेटासेट प्राप्त कर रहे थे और अपने अंतिम उपयोगकर्ताओं को प्रदर्शित करने के लिए सबसे प्रभावशाली और प्रासंगिक अंतर्दृष्टि प्राप्त करने का प्रयास कर रहे थे।
मुझे जो एक आकर्षक एहसास हुआ वह यह था कि कंपनियों (हमारे सहित) ने अपने डेटा (न कि बाहरी सार्वजनिक रूप से उपलब्ध डेटा) का बहुत कम उपयोग किया। नए अंतर्दृष्टि, बेहतर प्रक्रियाओं और अनुभवों के लिए बहुत सारे संभावित थे।
दूसरा निष्कर्ष यह था कि हमारे डेटा को प्राप्त करने में सक्षम होने के लिए बेहतर वास्तुकला, बेहतर बुनियादी ढांचे और इसी तरह की चीजों पर निर्भर करता है।
मोना लैब्स के पीछे की उत्पत्ति की कहानी साझा कर सकते हैं?
हम तीनों सह-संस्थापकों ने अपने करियर में डेटा उत्पादों के साथ काम किया है।
नेमो, मुख्य प्रौद्योगिकी अधिकारी, मेरा कॉलेज का दोस्त और सहपाठी है, और गूगल तेल अवीव के पहले कर्मचारियों में से एक है। उन्होंने गूगल ट्रेंड्स नामक एक उत्पाद शुरू किया था, जिसमें खोज इंजन डेटा पर आधारित उन्नत विश्लेषण और मशीन लर्निंग थी। इताई, दूसरे सह-संस्थापक और मुख्य उत्पाद अधिकारी, नेमो की टीम में गूगल में थे (और मैंने उनसे नेमो के माध्यम से मुलाकात की)। नेमो और इताई दोनों हमेशा निराश थे कि एआई-संचालित प्रणालियों को शुरुआती विकास और परीक्षण के बाद अनदेखा कर दिया गया था। एआई प्रणालियों का परीक्षण करने में कठिनाई के बावजूद, टीमें नहीं जानती थीं कि उनके पूर्वानुमान मॉडल समय के साथ कितनी अच्छी तरह से काम करते हैं। इसके अलावा, ऐसा लगता था कि वे केवल तभी एआई प्रणालियों के बारे में कोई प्रतिक्रिया सुनते थे जब चीजें बुरी तरह से गलत हो जाती थीं और विकास टीम को आपातकालीन मुद्दों को ठीक करने के लिए बुलाया जाता था।
(GOOGL )उसी समय, मैं मैककिंसे एंड कंपनी में एक सलाहकार था, और मैंने जो सबसे बड़ी बाधा देखी थी वह यह थी कि बड़े उद्यमों में एआई और बिग डेटा कार्यक्रमों को स्केल करने में व्यवसायिक हितधारकों का एआई कार्यक्रमों में विश्वास की कमी थी।
स्पष्ट हो गया कि नेमो, इताई और मेरे लिए एक सामान्य धागा था। उद्योग को उत्पादन में एआई/एमएल प्रणालियों की निगरानी के लिए बुनियादी ढांचे की आवश्यकता थी। हमने व्यवसायिक हितधारकों के विश्वास को बढ़ाने और एआई टीमों को यह सुनिश्चित करने के लिए दृष्टि प्रदान करने का फैसला किया कि उनकी प्रणालियां कैसा प्रदर्शन कर रही हैं और अधिक कुशलता से पुनरावृत्ति कर रही हैं।
और यहीं मोना की स्थापना हुई।
वर्तमान में एआई पारदर्शिता की कमी से जुड़ी कुछ समस्याएं क्या हैं?
अनेक उद्योगों में, संगठनों ने पहले ही अपने एआई कार्यक्रमों में दस लाख डॉलर से अधिक का निवेश किया है, और उन्होंने प्रयोगशाला में और छोटे पैमाने पर तैनाती में कुछ प्रारंभिक सफलता देखी है। लेकिन स्केलिंग अप, व्यापक अपनाने और व्यवसाय को वास्तव में एआई पर निर्भर करने में लगभग सभी के लिए एक बड़ी चुनौती रही है।
यह क्यों हो रहा है? खैर, यह इस तथ्य से शुरू होता है कि महान शोध स्वचालित रूप से महान उत्पादों में अनुवाद नहीं करता है (एक ग्राहक ने हमें एक बार बताया, “एमएल मॉडल कारों की तरह हैं, जैसे ही वे प्रयोगशाला से बाहर निकलते हैं, वे अपने मूल्य का 20% खो देते हैं”)। महान उत्पादों में सहायक प्रणालियां होती हैं। गुणवत्ता को समय के साथ बनाए रखने और मुद्दों को जल्दी से और कुशलता से पकड़ने और संबोधित करने के लिए उपकरण और प्रक्रियाएं हैं। महान उत्पादों में एक निरंतर प्रतिक्रिया चक्र भी होता है, उनमें एक सुधार चक्र और एक रोडमैप होता है। नतीजतन, महान उत्पादों को निरंतर प्रदर्शन पारदर्शिता की आवश्यकता होती है।
जब पारदर्शिता की कमी होती है, तो आप समाप्त हो जाते हैं:
- मुद्दे जो कुछ समय के लिए छिपे रहते हैं और फिर “आपातकालीन ड्रिल” पैदा करते हुए सतह पर आते हैं
- मैनुअल जांच और उपाय
- एक एआई कार्यक्रम जिस पर व्यवसायिक उपयोगकर्ताओं और प्रायोजकों को विश्वास नहीं है और अंततः स्केल नहीं होता है
पूर्वानुमान मॉडल को पारदर्शी और विश्वसनीय बनाने के पीछे कुछ चुनौतियां क्या हैं?
पारदर्शिता विश्वास हासिल करने में एक महत्वपूर्ण कारक है, बिल्कुल। पारदर्शिता कई रूपों में आ सकती है। एकल पूर्वानुमान पारदर्शिता हो सकती है जिसमें उपयोगकर्ता को विश्वास का स्तर प्रदर्शित करना शामिल है, या पूर्वानुमान के लिए एक व्याख्या/तार्किक प्रदान करना। एकल पूर्वानुमान पारदर्शिता मुख्य रूप से उपयोगकर्ता को पूर्वानुमान के साथ सहज महसूस करने में मदद करने के लिए है। और फिर, समग्र पारदर्शिता है जिसमें पूर्वानुमान सटीकता, अप्रत्याशित परिणाम, और संभावित मुद्दों के बारे में जानकारी शामिल हो सकती है। समग्र पारदर्शिता एआई टीम के लिए आवश्यक है।
समग्र पारदर्शिता का सबसे चुनौतीपूर्ण हिस्सा मुद्दों का पता लगाना है। मुद्दों का पता लगाने में सक्षम होने से पहले उन्हें सूचित किया जा सकता है ताकि वे सुधारात्मक कार्रवाई कर सकें इससे पहले कि वे आपदा में बदल जाएं।
मुद्दों का पता लगाना क्यों मुश्किल है:
- मुद्दे अक्सर छोटे शुरू होते हैं और फिर सतह पर आने से पहले उबाल मारते हैं।
- मुद्दे अक्सर नियंत्रित या बाहरी कारकों के कारण शुरू होते हैं, जैसे कि डेटा स्रोत।
- दुनिया को “विभाजित” करने के कई तरीके हैं और छोटे जेब में मुद्दों की थकावट से खोज करने से बहुत शोर (अलर्ट थकान) हो सकता है, कम से कम जब यह एक निर्दोष दृष्टिकोण में किया जाता है।
पारदर्शिता प्रदान करने का एक और चुनौतीपूर्ण पहलू एआई उपयोग मामलों का प्रसार है। यह एक-आकार-फिट-सभी दृष्टिकोण को लगभग असंभव बना देता है। प्रत्येक एआई उपयोग मामले में अलग-अलग डेटा संरचनाएं, व्यावसायिक चक्र, सफलता मेट्रिक्स, और अक्सर अलग तकनीकी दृष्टिकोण और यहां तक कि स्टैक भी शामिल हो सकते हैं।
तो यह एक मोनументल कार्य है, लेकिन पारदर्शिता एआई कार्यक्रमों की सफलता के लिए इतनी मौलिक है, इसलिए आपको इसे करना होगा।
क्या आप एनएलयू/एनएलपी मॉडल और चैटबॉट के लिए समाधानों के बारे में कुछ विवरण साझा कर सकते हैं?
कONवर्सेशनल एआई मोना के मुख्य क्षेत्रों में से एक है। हम नवाचारी कंपनियों को विभिन्न प्रकार के कONवर्सेशनल एआई उपयोग मामलों के लिए समर्थन प्रदान करने पर गर्व करते हैं, जिनमें भाषा मॉडल, चैटबॉट और अधिक शामिल हैं।
इन उपयोग मामलों में एक सामान्य कारक यह है कि मॉडल ग्राहकों के करीब (और कभी-कभी दृश्यमान रूप से) काम करते हैं, इसलिए असंगत प्रदर्शन या खराब व्यवहार के जोखिम अधिक होते हैं। यह कONवर्सेशनल एआई टीमों के लिए बहुत महत्वपूर्ण हो जाता है कि वे सिस्टम व्यवहार को विस्तार से समझें। यह मोना के निगरानी समाधान का एक क्षेत्र है।
मोना का समाधान जो वास्तव में अद्वितीय है वह समूहों की बातचीत को व्यवस्थित रूप से छानना है और मॉडल (या बॉट) के दुर्व्यवहार के जेब का पता लगाना। यह कONवर्सेशनल एआई टीमों को समस्याओं का पता लगाने और ग्राहकों को उन्हें नोटिस करने से पहले उन्हें ठीक करने की अनुमति देता है। यह क्षमता कONवर्सेशनल एआई टीमों के लिए निगरानी समाधान चुनते समय एक महत्वपूर्ण निर्णय चालक है।
संक्षेप में, मोना कONवर्सेशनल एआई निगरानी के लिए एक अंत-से-अंत समाधान प्रदान करता है। यह एक ही स्रोत के साथ शुरू होता है जो प्रणाली के व्यवहार की जानकारी प्रदान करता है, और प्रमुख प्रदर्शन संकेतकों की निरंतर ट्रैकिंग और दुर्व्यवहार के जेब के बारे में प्रोएक्टिव अंतर्दृष्टि के साथ जारी रहता है – टीमों को पूर्व-निरोधी और कुशल सुधारात्मक उपाय करने में सक्षम बनाता है।
मोना के अंतर्दृष्टि इंजन के बारे में कुछ विवरण प्रदान कर सकते हैं?
बिल्कुल। आइए प्रेरणा से शुरू करें। अंतर्दृष्टि इंजन का उद्देश्य उपयोगकर्ताओं को असामान्यताओं को उजागर करना है, जिसमें सिर्फ सही मात्रा में संदर्भ जानकारी होती है, और शोर या अलर्ट थकान पैदा किए बिना।
अंतर्दृष्टि इंजन एक अद्वितीय विश्लेषणात्मक कार्य प्रवाह है। इस कार्य प्रवाह में, इंजन डेटा के सभी खंडों में असामान्यताओं की तलाश करता है, जिससे मुद्दों का पता लगाने में मदद मिलती है जब वे अभी भी “छोटे” होते हैं, और इससे पहले कि वे पूरे डेटासेट और डाउनस्ट्रीम व्यवसाय के केपीआई को प्रभावित करें। फिर यह एक प्रोप्राइटरी एल्गोरिदम का उपयोग करके असामान्यताओं के मूल कारणों का पता लगाता है और सुनिश्चित करता है कि प्रत्येक असामान्यता को केवल एक बार ही अलर्ट किया जाए ताकि शोर से बचा जा सके। समर्थित असामान्यता प्रकारों में शामिल हैं: समय श्रृंखला असामान्यताएं, ड्रिफ्ट, आउटलियर, मॉडल डिग्रेडेशन और अधिक।
अंतर्दृष्टि इंजन मोना के直观 नो-कोड/लो-कोड कॉन्फ़िगरेशन के माध्यम से अत्यधिक अनुकूलन योग्य है। इंजन की कॉन्फ़िगरेबिलिटी मोना को बाजार में सबसे लचीला समाधान बनाती है, जो विभिन्न उपयोग मामलों (जैसे कि बैच और स्ट्रीमिंग, व्यवसायिक प्रतिक्रिया/मैदान सच्चाई के साथ या बिना, मॉडल संस्करणों के बीच या प्रशिक्षण और अनुमान के बीच, और अधिक) को कवर करती है।
अंत में, यह अंतर्दृष्टि इंजन एक दृश्य डैशबोर्ड द्वारा समर्थित है, जिसमें अंतर्दृष्टि देखी जा सकती है, और एक सेट जांच उपकरण जो मूल कारण विश्लेषण और संदर्भ जानकारी के आगे अन्वेषण को सक्षम बनाता है। अंतर्दृष्टि इंजन एक अलर्ट इंजन के साथ भी पूरी तरह से एकीकृत है जो उपयोगकर्ताओं के अपने कार्य वातावरण में अंतर्दृष्टि को खिलाने में सक्षम बनाता है, जिसमें ईमेल, सहयोग मंच और इसी तरह शामिल हैं।
31 जनवरी को, मोना ने अपना नया एआई न्यायसंगतता समाधान पेश किया, क्या आप इसके बारे में विवरण साझा कर सकते हैं?
एआई न्यायसंगतता यह सुनिश्चित करने के बारे में है कि एल्गोरिदम और एआई-संचालित प्रणालियां सामान्य रूप से पूर्वाग्रह से मुक्त और न्यायसंगत निर्णय लेती हैं। एआई प्रणालियों में पूर्वाग्रह को संबोधित करना और रोकना महत्वपूर्ण है, क्योंकि वे वास्तविक दुनिया में महत्वपूर्ण परिणाम पैदा कर सकते हैं। एआई के बढ़ते प्रभाव के साथ, इसका प्रभाव लोगों के दैनिक जीवन पर अधिक से अधिक स्थानों पर दिखाई देगा, जिसमें हमारी ड्राइविंग को स्वचालित करना, बीमारियों का अधिक सटीक पता लगाना, हमारे दुनिया की समझ में सुधार करना और यहां तक कि कला बनाना शामिल है। यदि हमें यह विश्वास नहीं है कि यह न्यायसंगत और पूर्वाग्रह से मुक्त है, तो हम इसे और अधिक फैलने देने की अनुमति कैसे दे सकते हैं?
एआई प्रणालियों में पूर्वाग्रह का एक प्रमुख कारण यह है कि मॉडल प्रशिक्षण डेटा वास्तविक दुनिया को पूरी तरह से प्रतिबिंबित नहीं कर सकता है। यह ऐतिहासिक भेदभाव, कुछ समूहों के अंडर-प्रतिनिधित्व, या यहां तक कि डेटा के जानबूझकर मैनिपुलेशन से उत्पन्न हो सकता है। उदाहरण के लिए, एक चेहरा पहचान प्रणाली जो मुख्य रूप से हल्की त्वचा वाले व्यक्तियों पर प्रशिक्षित है, इसमें गहरी त्वचा वाले व्यक्तियों को पहचानने में अधिक त्रुटि दर होने की संभावना है। इसी तरह, एक भाषा मॉडल जो एक संकीर्ण सेट से पाठ डेटा पर प्रशिक्षित है, यह धार्मिक, सांस्कृतिक और इसी तरह के विषयों पर विशिष्ट दृष्टिकोणों के प्रति पूर्वाग्रह विकसित कर सकता है।
मोना का एआई न्यायसंगतता समाधान एआई और व्यवसायिक टीमों को यह विश्वास दिलाने में मदद करता है कि उनका एआई पूर्वाग्रह से मुक्त है। नियंत्रित क्षेत्रों में, मोना का समाधान टीमों को अनुपालन तैयारी के लिए तैयार करता है।
मोना का न्यायसंगतता समाधान विशेष है क्योंकि यह मोना प्लेटफ़ॉर्म पर बैठता है – एआई डेटा और मॉडल और उनके वास्तविक दुनिया के निहितार्थ के बीच एक पुल। मोना उत्पादन में एआई मॉडल द्वारा सेवा की जाने वाली व्यावसायिक प्रक्रिया के सभी हिस्सों को देखता है, ताकि प्रशिक्षण डेटा, मॉडल व्यवहार और वास्तविक दुनिया के परिणामों के बीच संबंध स्थापित करने के लिए एक व्यापक मूल्यांकन प्रदान किया जा सके।
दूसरा, इसमें एक अद्वितीय विश्लेषणात्मक इंजन है जो डेटा को नियंत्रित पैरामीटर को नियंत्रित करने के लिए लचीले रूप से खंडित करने की अनुमति देता है। यह सटीक संबंधों का आकलन करने में सक्षम बनाता है, सिम्पसन के परिदृश्य से बचता है और किसी भी संरक्षित विशेषता और प्रदर्शन मेट्रिक्स पर एक गहरा “पूर्वाग्रह स्कोर” प्रदान करता है।
इसलिए, मैं कहूंगा कि मोना जिम्मेदार एआई बनाने और स्केल करने के लिए टीमों के लिए एक मूलभूत तत्व है।
आपकी एआई के भविष्य के लिए दृष्टि क्या है?
यह एक बड़ा प्रश्न है।
मुझे लगता है कि यह सीधा है कि एआई का उपयोग और प्रभाव विभिन्न उद्योग क्षेत्रों और लोगों के जीवन के विभिन्न पहलुओं में जारी रहेगा। हालांकि, यह एक विस्तृत दृष्टि है जो एआई के भविष्य में सभी उपयोग मामलों और परिणामों को कवर करने का प्रयास करती है, जिसे विश्वसनीय रूप से चित्रित करना मुश्किल है।
जो हम जानते है वह यह है कि एआई अधिक लोगों के हाथों में होगा और अधिक उद्देश्यों की सेवा करेगा। इसलिए, शासन और पारदर्शिता की आवश्यकता काफी बढ़ जाएगी।
एआई और यह कैसे काम करता है, इसकी वास्तविक दृष्टि में दो प्रमुख भूमिकाएं होंगी। पहला, यह लोगों में विश्वास पैदा करने में मदद करेगा और तेजी से अपनाने के लिए प्रतिरोध बाधाओं को उठाएगा। दूसरा, यह एआई का संचालन करने वाले किसी को यह सुनिश्चित करने में मदद करेगा कि यह हाथ से बाहर नहीं निकल रहा है।
धन्यवाद इस शानदार साक्षात्कार के लिए, पाठक जो और जानना चाहते हैं उन्हें मोना लैब्स पर जाना चाहिए।
