Alyssa Simpson Rochwerger, सह-लेखक ऑफ रियल वर्ल्ड AI – साक्षात्कार श्रृंखला

Alyssa Rochwerger एक ग्राहक-निर्देशित उत्पाद नेता हैं जो वास्तविक लोगों के लिए कठिन समस्याओं का समाधान करने वाले उत्पादों का निर्माण करने के लिए समर्पित हैं। उन्होंने मशीन लर्निंग संगठनों के लिए कई उत्पाद नेतृत्व भूमिकाएं निभाई हैं। उन्होंने फिगर एट (अपन द्वारा अधिग्रहित) के लिए उत्पाद के वीपी, Appen में एआई और डेटा के वीपी, और आईबीएम वाटसन में उत्पाद निदेशक के रूप में कार्य किया। उन्होंने हाल ही में स्वास्थ्य सेवा में सुधार के लिए प्रौद्योगिकी का उपयोग करने के अपने सपने को आगे बढ़ाने के लिए इस स्थान को छोड़ दिया। वर्तमान में, वह ब्लू शील्ड ऑफ कैलिफोर्निया में उत्पाद निदेशक के रूप में कार्य करती है, जहां वह खुशी से बहुत सारे डेटा, कई कठिन समस्याओं और सकारात्मक प्रभाव डालने के अवसरों से घिरी हुई है।

हम उनकी नई पुस्तक पर चर्चा करते हैं: द रियल वर्ल्ड ऑफ एआई: रिस्पॉन्सिबल मशीन लर्निंग के लिए एक व्यावहारिक गाइड

पुस्तक की शुरुआत में आप बताती हैं कि आईबीएम के उत्पाद प्रबंधक के रूप में आपको पहली बार एआई प्रणाली द्वारा पूर्वाग्रहित जानकारी वितरित करने का मुद्दा कैसे मिला, जब एक व्यक्ति की एक तस्वीर को एक पंक्ति में “हारे हुए” के रूप में वर्गीकृत किया गया था। यह आपके लिए एआई पूर्वाग्रह के बारे में कितना जागरूक करने वाला था?

मैं इसे जागरूक करने वाला नहीं कहूंगा, बल्कि यह मेरे लिए पहली बार मशीन लर्निंग आधारित उत्पाद (मैं केवल कुछ महीने के लिए इस भूमिका में थी) बनाने और मुझे अभी तक यह नहीं पता था कि यह प्रौद्योगिकी कैसे काम करती है ताकि अवांछित पूर्वाग्रह को रोकने के लिए सुरक्षा उपाय कर सकें। यह एक आंख खोलने वाला अनुभव था जिसने इस मुद्दे पर मेरा ध्यान तेज कर दिया – और मुझे आगे बढ़ने के लिए तेजी से अवगत कराया। समानता, पहुंच, और समावेशन एक विषय है जिसके बारे में मैं बहुत उत्साहित हूं – और मैंने लंबे समय से इसके बारे में बात की है – मैंने वास्तव में कॉलेज में विकलांग छात्रों के लिए अपने समर्थन के लिए एक पुरस्कार जीता था। आईबीएम में यह अनुभव मुझे तकनीकी दृष्टिकोण से समझने में मदद की कि यह कितना आसान है कि सामाजिक पूर्वाग्रह मशीन लर्निंग आधारित उत्पादों में एन्कोड किया जा सकता है यदि टीम सक्रिय रूप से इसका मुकाबला नहीं कर रही है। मैं खुश था कि मैं एक संस्थान में काम कर रहा था जो समानता की परवाह करता है और इसका मुकाबला करने के लिए संसाधनों का निवेश करता है।

आपको इस पुस्तक का शोध और लेखन करते समय क्या व्यक्तिगत रूप से सीखने को मिला?

व्यक्तिगत रूप से, मुझे इस पुस्तक को लिखने के लिए समय निकालना पड़ा, जबकि मैं नौकरी बदल रहा था, मेरे पास 1 साल का बच्चा था और मैं कोविड को नेविगेट कर रहा था। मैंने सीखा कि कैसे समय निकालना है और कैसे अपने परिवार से मदद मांगनी है जिसने मुझे पुस्तक लेखन पर ध्यान केंद्रित करने का समय दिया।

पेशेवर रूप से, यह उन कई प्रतिभागियों के साथ काम करने के लिए अद्भुत था जिन्होंने स्वेच्छा से और कृपापूर्वक अपनी कहानियों को प्रकाशन के लिए साझा किया। मेरे अनुभव में, मशीन लर्निंग पेशेवर एक अविश्वसनीय रूप से विचारशील और कृपालु समूह के लोग हैं – दूसरों की मदद करने और साझा करने के लिए तैयार हैं और सीखने के लिए गलतियों और सबक साझा करने के लिए तैयार हैं। दुर्भाग्य से, इनमें से कई सबक साझा करने वाली कहानियां इस पुस्तक के लिए शामिल नहीं की जा सकीं या महत्वपूर्ण रूप से अज्ञात हो गईं, क्योंकि कंपनी या व्यक्ति को गलत रोशनी में लेने के डर से पीछे की कहानी वाली जानकारी को सार्वजनिक करने के लिए चिंता थी। जबकि यह निश्चित रूप से पाठ्यक्रम के लिए है, व्यक्तिगत रूप से मुझे लगता है कि यह दुर्भाग्यपूर्ण है – मैं पिछले अनुभवों और गलतियों से सीखने और बढ़ने में विश्वास करता हूं, यदि वे दूसरों के लिए उपयोगी हो सकते हैं।

आपको लगता है कि लोग इस पुस्तक को पढ़ने से क्या सबसे महत्वपूर्ण सबक सीखेंगे?

मुझे आशा है कि लोग सीखेंगे कि मशीन लर्निंग बहुत डरावना या कठिन नहीं है। यह एक शक्तिशाली लेकिन कभी-कभी नाजुक प्रौद्योगिकी है जिसे सफल होने के लिए मार्गदर्शन और संरचना की आवश्यकता होती है। इसके अलावा, जिम्मेदार और नैतिक उपयोग इस प्रौद्योगिकी के लिए परिपक्वता और सफलता के लिए महत्वपूर्ण है – और हानिकारक पूर्वाग्रह को शुरू से ही कम करने पर ध्यान केंद्रित करना व्यवसायिक सफलता के लिए महत्वपूर्ण है।

पुस्तक में एक उदाहरण एआई लिंग पूर्वाग्रह का था जिसमें एप्पल क्रेडिट कार्ड ने पुरुषों की तुलना में महिलाओं को कम क्रेडिट लाइनें जारी कीं। यह एक उदाहरण था कि लिंग को एक विकल्प के रूप में हटाने से लिंग के लिए प्रॉक्सी के रूप में कार्य करने वाले अन्य चर के लिए खाता नहीं हो सकता है। इस उदाहरण ने दिखाया कि “लिंग” इनपुट के बिना यह पता लगाना असंभव था कि परिणाम पूर्वाग्रहित था जब तक कि अंतिम उत्पाद जारी नहीं किया गया था। आपको लगता है कि क्या डेटा इनपुट हैं जो लिंग या अल्पसंख्यकों के खिलाफ पूर्वाग्रह से बचने के लिए कभी भी हटाए नहीं जाने चाहिए?

कोई कड़ाई से नियम नहीं है – हर डेटासेट, उपयोग का मामला, और स्थिति अलग है। मैं प्रैक्टिशनर्स को प्रोत्साहित करूंगा कि वे विवरण में जाएं और जिस समस्या का समाधान मशीन लर्निंग एल्गोरिदम द्वारा किया जा रहा है, उसकी जटिलता को समझें – और क्या हानिकारक पूर्वाग्रह उस निर्णय में एन्कोड किया जा सकता है।

पुस्तक में वर्णित है कि एआई टीम के साथ संवाद करते समय एक प्राथमिक जिम्मेदारी यह है कि व्यवसाय के लिए महत्वपूर्ण परिणामों को सटीक रूप से परिभाषित किया जाए। आपके विचार में, व्यवसाय इस कार्य में कितनी बार विफल रहते हैं?

मैं कहूंगा कि मेरे अनुभव में, अधिकांश समय, परिणाम या तो परिभाषित नहीं किए जाते हैं या केवल एक ढीले या उच्च स्तर पर परिभाषित किए जाते हैं। विशिष्ट परिणामों के बारे में विवरण में जाना एक आसान तरीका है जिससे टीम को शुरू से ही सफलता के लिए स्थापित किया जा सकता है।

पुस्तक बताती है कि यह समझना महत्वपूर्ण है कि एक एआई प्रणाली एक “सेट इट एंड फॉरगेट इट” प्रकार की प्रणाली नहीं है। क्या आप इस पर संक्षेप में चर्चा कर सकते हैं?

यह सबसे आम गलती है जो अधिकांश कंपनियां मशीन लर्निंग सिस्टम को उत्पादन में लॉन्च करते समय करती हैं। वास्तविकता बदलती रहती है – समय बीतता है, कल की तुलना में आज की सच्चाई अलग हो सकती है (प्रशिक्षण डेटा)। यह आपके परिस्थितियों पर निर्भर करता है, लेकिन अधिकांश मामलों में, यह महत्वपूर्ण है कि आप समय के साथ बेहतर निर्णय लेने और अधिक हाल की जानकारी के आधार पर सीखने में सक्षम हों।

मशीन लर्निंग आधारित उत्पाद मूल रूप से निर्णय लेने वाले होते हैं। इसे एक मानव उदाहरण के साथ तुलना करना – यह एक उच्च-स्टेक फुटबॉल गेम में एक रेफरी की तरह है। कई बार, यदि यह एक अच्छी तरह से प्रशिक्षित रेफरी है जिसमें अनुभव है, तो रेफरी एक अच्छा निर्णय लेता है और गेम जारी रहता है – लेकिन कभी-कभी, उस रेफरी या तो एक बुरा फैसला करता है – या नहीं जानता कि क्या फैसला करना है – और उसे वापस जाना होगा और वीडियो की समीक्षा करनी होगी – कुछ अन्य लोगों से पूछना होगा ताकि एक विशिष्ट प्ले पर निर्णय लिया जा सके। इसी तरह – एमएल उत्पादों को प्रतिक्रिया, प्रशिक्षण, और कभी-कभी उन्हें आत्मविश्वास नहीं होता है। उन्हें पीछे की ओर गिरने के लिए बैकअप विकल्प और समय के साथ बेहतर होने के लिए सीखने के लिए नई जानकारी की आवश्यकता होती है। एक अच्छा रेफरी समय के साथ बेहतर होता जाता है और निर्णय लेने में बेहतर होता जाता है।

क्या आप बता सकते हैं कि एआई का उपयोग करके कौन सी समस्याएं सबसे अच्छी तरह से हल की जा सकती हैं और उन्हें पहचानने के लिए एक क्रॉस-फंक्शनल टीम बनाने के महत्व पर?

मशीन लर्निंग प्रौद्योगिकी आमतौर पर बहुत कठिन विशिष्ट समस्याओं के लिए उपयुक्त होती है जो अन्य दृष्टिकोणों से हल नहीं की जा सकती हैं। कोई भी कठिन समस्या – इसके लिए एक टीम की आवश्यकता होती है। जब कंपनियां एआई के लिए नए होती हैं, तो अक्सर एक गलत कथा होती है कि एक अकेला मशीन लर्निंग वैज्ञानिक, या甚至 मशीन लर्निंग टीम, स्वयं ही समस्या का समाधान कर सकती है। मैंने कभी भी ऐसा नहीं पाया है। इसके लिए एक टीम की आवश्यकता होती है जिसमें विभिन्न पृष्ठभूमि और दृष्टिकोण हों – और निश्चित रूप से मशीन लर्निंग प्रौद्योगिकी को सफलतापूर्वक तैनात करने के लिए।

साक्षात्कार के लिए धन्यवाद, पाठकों (और विशेष रूप से व्यवसायिक कार्यकारियों) के लिए जो अधिक जानने में रुचि रखते हैं, मैं उन्हें पुस्तक पढ़ने की सलाह देता हूं द रियल वर्ल्ड ऑफ एआई: रिस्पॉन्सिबल मशीन लर्निंग के लिए एक व्यावहारिक गाइड।