अलिसा सिम्पसन रोचवर्गर, रियल वर्ल्ड एआई – साक्षात्कार श्रृंखला के सह-लेखक

अलिसा रोचवर्गर एक ग्राहक-विकसित उत्पाद नेता हैं जो वास्तविक लोगों के लिए कठिन समस्याओं का समाधान करने वाले उत्पादों का निर्माण करने के लिए समर्पित हैं। उन्होंने मशीन लर्निंग संगठनों के लिए कई उत्पाद नेतृत्व भूमिकाएं निभाई हैं। उन्होंने फिगर एट (एपेन द्वारा अधिग्रहित) के लिए उत्पाद के वीपी, एपेन में एआई और डेटा के वीपी, और आईबीएम वाटसन में उत्पाद निदेशक के रूप में कार्य किया है। उन्होंने हाल ही में स्वास्थ्य सेवा में सुधार के लिए प्रौद्योगिकी का उपयोग करने के अपने सपने को आगे बढ़ाने के लिए इस क्षेत्र को छोड़ दिया। वर्तमान में, वह ब्लू शील्ड ऑफ कैलिफोर्निया में उत्पाद निदेशक के रूप में कार्य करती है, जहां वह खुशी से बहुत सारे डेटा, कई कठिन समस्याओं और सकारात्मक प्रभाव डालने के अवसरों से घिरी हुई है।

हम उनकी नई पुस्तक पर चर्चा करते हैं: वास्तविक दुनिया का एआई: जिम्मेदार मशीन लर्निंग के लिए एक व्यावहारिक गाइड

पुस्तक के परिचय में आप बताती हैं कि आईबीएम उत्पाद प्रबंधक के रूप में आपको पहली बार एआई प्रणाली द्वारा पूर्वाग्रहपूर्ण जानकारी देने की समस्या का सामना करना पड़ा, जब एक व्यक्ति की व्हीलचेयर में तस्वीर को एल्गोरिथ्म द्वारा “हारे हुए” के रूप में वर्गीकृत किया गया था। यह आपके लिए एआई पूर्वाग्रह के बारे में कितना जागरूक करने वाला था?

मैं इसे जागरूक करने वाला नहीं कहूंगी, बल्कि यह मेरे लिए पहली बार था जब मैंने मशीन लर्निंग आधारित उत्पाद बनाया था (मैं केवल कुछ महीने के लिए इस भूमिका में थी) और मुझे इस प्रौद्योगिकी के बारे में पर्याप्त जानकारी नहीं थी कि मैं अवांछित पूर्वाग्रह को रोकने के लिए सुरक्षा उपाय कर सकूं। यह एक आंख खोलने वाला अनुभव था जिसने मेरा ध्यान इस मुद्दे पर केंद्रित किया – और मुझे आगे बढ़ने के लिए तेजी से जागरूक किया। समानता, पहुंच और समावेश एक विषय है जिसके बारे में मैं बहुत उत्साहित हूं – और मैंने कॉलेज में विकलांग छात्रों के लिए अपने समर्थन के लिए एक पुरस्कार जीता था। यह अनुभव आईबीएम में मुझे तकनीकी दृष्टिकोण से समझने में मदद की कि यह कितना आसान है सामाजिक पूर्वाग्रह को मशीन लर्निंग आधारित उत्पादों में एन्कोड करने के लिए यदि टीम सक्रिय रूप से इसका मुकाबला नहीं कर रही है। मैं एक ऐसे संस्थान में काम करने के लिए खुश थी जो समानता की परवाह करता है और इसका मुकाबला करने के लिए संसाधनों का आवंटन करता है।

इस पुस्तक को शोध करने और लिखने से आपको व्यक्तिगत रूप से क्या सीखने को मिला?

व्यक्तिगत रूप से, मुझे इस पुस्तक को लिखने के लिए समय निकालना पड़ा जबकि मैं नौकरी बदल रही थी, एक 1 वर्षीय बच्चे की देखभाल कर रही थी, और कोविड के दौरान यह सब कर रही थी। मैंने सीखा कि मुझे इसे प्राथमिकता देने के लिए समय कैसे निकालना है, और मैंने अपने परिवार से मदद मांगना सीखा जिससे मुझे समय मिला और मैं इस पुस्तक को लिखने पर ध्यान केंद्रित कर सकी।

आपकी पुस्तक में कुछ सबसे महत्वपूर्ण सबक क्या हैं जो आप लोगों से सीखने की उम्मीद करती हैं?

मुझे उम्मीद है कि लोग सीखेंगे कि मशीन लर्निंग बहुत डरावना या कठिन नहीं है। यह एक शक्तिशाली लेकिन कभी-कभी नाजुक प्रौद्योगिकी है जिसे मार्गदर्शन और संरचना की आवश्यकता होती है ताकि यह कठिन समस्याओं का समाधान कर सके। इसके अलावा, जिम्मेदार और नैतिक तरीके से इसका उपयोग करना महत्वपूर्ण है – और पूर्वाग्रह को कम करने पर ध्यान केंद्रित करना व्यवसायिक सफलता के लिए महत्वपूर्ण है।

पुस्तक में एक उदाहरण है जिसमें एआई लिंग पूर्वाग्रह को दर्शाया गया है, जिसमें एप्पल क्रेडिट कार्ड ने महिलाओं की तुलना में पुरुषों को कम क्रेडिट सीमा दी थी। यह एक उदाहरण है कि कैसे लिंग को विकल्प के रूप में हटाने से अन्य चर को लिंग के प्रॉक्सी के रूप में उपयोग करने के लिए नहीं माना जा सकता है। इस उदाहरण ने दिखाया कि “लिंग” इनपुट के बिना यह पता लगाना असंभव था कि परिणाम पूर्वाग्रहपूर्ण था जब तक कि अंतिम उत्पाद जारी नहीं किया गया था। आपको लगता है कि किन डेटा इनपुट को कभी भी हटाया नहीं जाना चाहिए ताकि लिंग या अल्पसंख्यकों के खिलाफ पूर्वाग्रह से बचा जा सके?

कोई कड़ाई से नियम नहीं है – हर डेटा सेट, उपयोग का मामला, और स्थिति अलग है। मैं प्रैक्टिशनर्स को विवरण और सूक्ष्मता में जाने के लिए प्रोत्साहित करूंगा कि किस समस्या का समाधान मशीन लर्निंग एल्गोरिथ्म द्वारा किया जा रहा है – और कौन सा हानिकारक पूर्वाग्रह उस निर्णय में एन्कोड किया जा सकता है।

पुस्तक में बताया गया है कि एआई टीम के साथ संवाद करते समय एक प्राथमिक जिम्मेदारी यह है कि व्यवसाय के लिए महत्वपूर्ण परिणामों को सटीक रूप से परिभाषित किया जाए। आपके अनुभव में, व्यवसाय इस कार्य में कितनी बार विफल रहते हैं?

मैं कहूंगी कि मेरे अनुभव में, अधिकांश समय, परिणाम या तो परिभाषित नहीं किए जाते हैं या केवल ढीले या उच्च स्तर पर परिभाषित किए जाते हैं। विशिष्ट परिणामों के बारे में विवरण में जाना टीम को शुरू में सफलता के लिए स्थापित करने का एक आसान तरीका है।

पुस्तक एआई प्रणाली को “सेट इट एंड फॉरगेट इट” प्रकार की प्रणाली नहीं होने के महत्व पर चर्चा करती है। क्या आप इस पर संक्षेप में चर्चा कर सकती हैं?

यह वह क्लासिक गलती है जो अधिकांश कंपनियां मशीन लर्निंग प्रणाली को उत्पादन में लॉन्च करते समय करती हैं। वास्तविकता बदलती रहती है – समय बीतता है, कल की तुलना में आज की सच्चाई अलग हो सकती है। यह आपकी परिस्थितियों पर निर्भर करता है, लेकिन अधिकांश मामलों में, यह महत्वपूर्ण है कि आप सीखने और समायोजन करने में सक्षम हों और समय के साथ बेहतर निर्णय ले सकें।

क्या आप बता सकती हैं कि क्रॉस-फंक्शनल टीम बनाने का महत्व जो यह पहचान सके कि कौन सी समस्याएं एआई का उपयोग करके सबसे अच्छी तरह से हल की जा सकती हैं?

मशीन लर्निंग प्रौद्योगिकी आमतौर पर बहुत कठिन और विशिष्ट समस्याओं के लिए उपयुक्त होती है जो अन्य दृष्टिकोणों से हल नहीं की जा सकती हैं। कोई भी कठिन समस्या – इसका समाधान करने के लिए एक टीम की आवश्यकता होती है। जब कंपनियां एआई के लिए नए होती हैं, तो अक्सर एक गलत कथा होती है कि एक अकेला मशीन लर्निंग वैज्ञानिक, या甚至 मशीन लर्निंग टीम, समस्या का समाधान कर सकती है। मैंने कभी भी ऐसा नहीं पाया है। इसका समाधान करने के लिए एक टीम की आवश्यकता होती है जिसमें विभिन्न पृष्ठभूमि और दृष्टिकोण हों – और निश्चित रूप से मशीन लर्निंग प्रौद्योगिकी को उत्पादन में सफलतापूर्वक तैनात करने के लिए।

धन्यवाद इस शानदार साक्षात्कार के लिए, पाठकों (और विशेष रूप से व्यवसायिक कार्यकारियों) के लिए जो अधिक जानने में रुचि रखते हैं, मैं उन्हें पुस्तक वास्तविक दुनिया का एआई: जिम्मेदार मशीन लर्निंग के लिए एक व्यावहारिक गाइड पढ़ने की सलाह देता हूं।