रीड ब्लैकमैन, पीएचडी, वर्चू कंसल्टेंट्स के संस्थापक और सीईओ – साक्षात्कार श्रृंखला

रीड ब्लैकमैन वर्चू कंसल्टेंट्स के संस्थापक और सीईओ हैं। इस क्षमता में, उन्होंने कंपनियों के साथ काम किया है ताकि वे अपनी कंपनी संस्कृति और उभरती प्रौद्योगिकी उत्पादों के विकास, तैनाती और खरीद में नैतिकता और नैतिक जोखिम मितigation को एकीकृत कर सकें। वह अर्न्स्ट एंड यंग के वरिष्ठ सलाहकार भी हैं और उनके आर्टिफ़िशियल इंटेलिजेंस एडवाइज़री बोर्ड में बैठते हैं, और आईईईई की नैतिक रूप से संरेखित डिज़ाइन पहल के सदस्य हैं।

रीड का काम द वॉल स्ट्रीट जर्नल और डेल प्रतिबिंब में प्रदर्शित किया गया है और उन्होंने द हार्वर्ड बिजनेस रिव्यू, टेकक्रंच, वेंचरबीट, और जोखिम और अनुपालन पत्रिका के लिए टुकड़े योगदान दिए हैं। उन्हें कई समाचार लेखों में उद्धृत किया गया है, और वे विभिन्न स्थानों पर नियमित रूप से बोलते हैं, जिनमें विश्व आर्थिक मंच, एसएपी, कान फिल्म फेस्टिवल, फोर्ब्स, एनवाईयू स्टर्न स्कूल ऑफ बिजनेस, कोलम्बिया विश्वविद्यालय और एआईजी शामिल हैं।

आप 2009 से 2018 तक कोलगेट विश्वविद्यालय में दर्शन के प्रोफेसर थे। आपने अपने पाठ्यक्रम में एआई नैतिकता को कब शामिल करना शुरू किया?

मैं अक्सर सामाजिक और राजनीतिक दर्शन पर एक पाठ्यक्रम सिखाता था, जहां मैंने मार्क्स को कवर किया था। मार्क्स के केंद्रीय दावों में से एक यह है कि पूंजीवाद अंततः समाजवाद में देगा, जो “उत्पादन के साधनों” में एक बड़ी वृद्धि के कारण है। अन्य शब्दों में, पूंजीवाद प्रतिस्पर्धा और नए बाजारों को खोलने के नाम पर अधिक से अधिक दक्षता को बढ़ावा देता है, जिसका अर्थ है कि अधिक से अधिक प्रौद्योगिकियों का निर्माण जो कम से कम समय में अधिक से अधिक उत्पादन कर सकती हैं। मार्क्स ने यह भी भविष्यवाणी की कि यह धन को कुछ लोगों के हाथों में और अधिक से अधिक लोगों को गरीबी में धकेल देगा, जिस बिंदु पर पूंजीवादी संरचनाएं बढ़ती संख्या में गरीब जनसंख्या द्वारा क्रांति द्वारा उलट जाएंगी। यह सब प्रौद्योगिकी के नैतिकता के आसपास एक चर्चा की ओर ले जाता है जो मानव श्रम की आवश्यकता को समाप्त कर देती है, जो कि एआई नैतिकता का एक केंद्रीय तत्व है।

छोटी साइड-स्टोरी अगर आप रुचि रखते हैं: 2002 में मैं एक स्नातक छात्र था जो नॉर्थवेस्टर्न विश्वविद्यालय में स्नातक छात्रों के साथ मार्क्स पर एक चर्चा का नेतृत्व कर रहा था। एक बिंदु पर, एक छात्र ने अपना हाथ उठाया और कहा, “अंततः हमें किसी भी काम के लिए मानवों की आवश्यकता नहीं होगी।” कक्षा भ्रमित थी। मैं भ्रमित था। इसलिए मैंने कहा, “तो कौन सा काम करेगा?” उन्होंने एक बहुत ही मामले में उत्तर दिया: “रोबोट।” कक्षा हंसी में फूट पड़ी। मैंने अपनी हंसी को दबा दिया। लेकिन यह khá स्पष्ट है कि किसने आखिरी हंसी मारी।

2018 में, आपने वर्चू कंसल्टेंट्स लॉन्च किया, एक नैतिकता परामर्श जो डेटा और एआई नेताओं को उनके उत्पादों के नैतिक जोखिमों की पहचान करने और उन्हें कम करने में सक्षम बनाता है। आपको इस उद्यमी यात्रा शुरू करने के लिए क्या प्रेरित किया?

ईर्ष्या। खैर, कुछ हद तक। मैंने 2003 या 2004 के आसपास एक आतिशबाजी थोक व्यापार कंपनी शुरू की थी। वह बेहतर था niż मैंने उम्मीद की थी, और कंपनी अभी भी मौजूद है, हालांकि अब मैं एक सलाहकार हूं और दिन-प्रतिदिन के संचालन का ध्यान नहीं रख रहा हूं। वैसे भी, यह प्रासंगिक है क्योंकि यह बताता है कि मैं कोलगेट के उद्यमिता कार्यक्रम (टीआईए, थॉट इंटू एक्शन, एंडी ग्रीनफील्ड और विल्स हैपवर्थ द्वारा चलाए जाने वाले दो शानदार वीसी द्वारा चलाए जाने वाले टीआईए वेंचर्स) में स्टार्टअप के लिए एक मेंटर कैसे बन गया। एक मेंटर के रूप में, मैंने छात्रों को रोमांचक परियोजनाओं पर काम करते हुए देखा क्योंकि वे अपने लाभ-निर्माण या गैर-लाभकारी स्टार्टअप की स्थापना और स्केलिंग के लिए कैसे जाने का फैसला करते हैं और मैंने सोचा, “मैं यह चाहता हूं!” लेकिन मेरा नया उद्यम क्या होगा? इसे मेरे प्यार के दर्शन और नैतिकता के लिए बोलना था, और पहली चीज जो समझ में आई थी वह एक नैतिकता परामर्श थी। मैंने बाजार के लिए ऐसी सेवाओं के लिए नहीं देखा, क्योंकि वह नहीं था, और इसलिए मैंने प्रतीक्षा की। और फिर कैम्ब्रिज एनालिटिका, बीएलएम, और # मीटू ने राष्ट्रीय हेडलाइंस बनाई, और अचानक नैतिकता की आवश्यकता के बारे में एक बड़ी जागरूकता थी।

कंपनियों के लिए एक एआई नैतिकता बयान पेश करना कितना महत्वपूर्ण है?

एक एआई नैतिकता बयान आवश्यक नहीं है, लेकिन यह एक बहुत ही उपयोगी उपकरण है जो आपके लक्ष्यों को निर्धारित करने में मदद करता है। जब आप अपने संगठन में एक एआई नैतिकता कार्यक्रम पेश कर रहे हैं, तो आप विभिन्न नैतिक, प्रतिष्ठा, नियामक और कानूनी जोखिमों की पहचान करना और उन्हें कम करना चाहते हैं। यह इसका मुख्य कार्य है। एक नैतिकता बयान आपको उन लक्ष्यों को व्यक्त करने में मदद करता है जो आपके पास बुनियादी ढांचे, प्रक्रिया और अभ्यास होने पर होंगे जो उन लक्ष्यों को प्राप्त करने के लिए हैं। जितना एक रणनीति को एक लक्ष्य की आवश्यकता होती है – जो यह हमेशा करता है – एक एआई नैतिकता बयान उन लक्ष्यों को व्यक्त करने का एक अच्छा तरीका है, हालांकि यह एकमात्र तरीका नहीं है।

कंपनियां नैतिकता बयान को प्रक्रिया और अभ्यास में कैसे स्थानांतरित कर सकती हैं?
एक नैतिकता बयान बस एक छोटा सा कदम है। यदि आप आगे बढ़ना चाहते हैं, तो अगला प्राकृतिक कदम है कि आप अपने लक्ष्यों के सापेक्ष अपनी स्थिति का मूल्यांकन करें। एक बार जब आप जानते हैं कि सबसे बड़े, जोखिम भरे अंतराल कहां हैं – अर्थात्, आप अपने लक्ष्यों से कम पड़ने के लिए सबसे ज्यादा जोखिम में हैं – तो आप उन अंतराल को कम करने के लिए समाधान बनाना शुरू कर सकते हैं। शायद यह एक नैतिकता समिति है। शायद यह उत्पाद विकास के दौरान एक देय दिलIGENCE प्रक्रिया है। शायद यह बेहतर हो रहा है कि आप गैर-उत्पाद विभागों में डेटा के साथ कैसे व्यवहार करते हैं, जैसे कि विपणन और एचआर। शायद यह उन सभी चीजों और अधिक है।

कंपनियों को वास्तविक एआई एल्गोरिदम में पूर्वाग्रह से बचने के लिए क्या समाधान लागू करने चाहिए?

पूर्वाग्रह की पहचान करने के लिए कई तकनीकी उपकरण हैं, लेकिन वे सीमित हैं। वे आपको अपने मॉडल के आउटपुट की तुलना अकादमिक एमएल नैतिकता साहित्य में पेश किए गए दर्जनों मात्रात्मक मीट्रिक के खिलाफ करने की अनुमति देंगे, लेकिन आपको सावधान रहने की आवश्यकता है क्योंकि वे मीट्रिक परस्पर विरोधाभासी नहीं हैं। इसलिए, एक वास्तविक, नैतिक निर्णय लेने की आवश्यकता है: कौन सा, यदि कोई है, तो इन मीट्रिकों में से इस संदर्भ में उपयुक्त है?

एक ऐसे उपकरण का उपयोग करने के अलावा, जिसे एक जिम्मेदार तरीके से उस प्रश्न का उत्तर देने के साथ पूरक किया जाता है, उत्पाद टीमें अपने प्रोजेक्ट में पूर्वाग्रह कैसे आ सकता है इसके बारे में सोचने के लिए अच्छा करेंगी trước कि वे निर्माण शुरू करें। प्रशिक्षण डेटा सेट में यह कैसे निहित या प्रतिबिंबित हो सकता है? उत्पादक कार्य निर्धारित करते समय? सीमा निर्धारित करते समय क्या? पूर्वाग्रह कई जगहों पर आ सकता है। अपने वर्तमान परियोजना में और यह कैसे प्राप्त हो सकता है इसके बारे में विचार करना और इसकी पहचान और कम करने के लिए आवश्यक है।

एआई कंपनियां अक्सर श्वेत पुरुषों द्वारा प्रभुत्व रखती हैं जो अनजाने में एआई प्रणाली में कुछ पूर्वाग्रहों को कार्यक्रम कर सकते हैं। इसे避免 करने के लिए, मानव संसाधन विभाग को किस प्रकार के गुणों की तलाश करनी चाहिए?

मैं इंजीनियरों और उत्पाद टीमों के बीच अधिक अवसर और विविधता के लिए हूं। हालांकि, मुझे लगता है कि यह चीजों को गलत लेंस के माध्यम से देख रहा है। पूर्वाग्रहित एल्गोरिदम के साथ समस्या यह नहीं है कि कुछ श्वेत व्यक्ति के पूर्वाग्रह पूर्वाग्रहित कोड का कारण बनते हैं। यह है कि प्रशिक्षण डेटा सेट पूर्वाग्रहित हैं। वास्तव में, कोलम्बिया से एक हालिया पत्र – “पूर्वाग्रहित प्रोग्रामर? या पूर्वाग्रहित डेटा? एक क्षेत्र प्रयोग में ऑपरेशनलाइज़िंग एआई नैतिकता” – ने निष्कर्ष निकाला कि “[प्रोग्रामर जो तकनीकी मार्गदर्शन को समझते हैं] सफलतापूर्वक पूर्वाग्रह को कम करते हैं,” और “[एल्गोरिदमिक भविष्यवाणियां महिला और अल्पसंख्यक एआई प्रोग्रामर द्वारा कम पूर्वाग्रहित नहीं हैं”। इसलिए, जबकि एचआर को विविधता मुद्दों पर ध्यान देना चाहिए, यह स्पष्ट नहीं है कि पूर्वाग्रहित एआई आउटपुट को कम करने के लिए रणनीतियों को मुख्य रूप से – या विशेष रूप से – विविधता प्रयासों के संबंध में नियुक्ति निर्णयों पर ध्यान केंद्रित करना चाहिए।

आप नैतिक जोखिम देय दिलIGENCE के बारे में क्या चर्चा कर सकते हैं और कंपनियों को इसे लागू करना क्यों चाहिए?

एक नैतिक जोखिम देय दिलIGENCE आपके द्वारा बनाई जा रही उत्पाद के साथ होने वाले विभिन्न नैतिक जोखिमों की पहचान करने का प्रयास है, जिसमें यह कैसे तैनात किया जा सकता है, इसका उपयोग कैसे किया जा सकता है और इसका दुरुपयोग कैसे किया जा सकता है। आप उत्पाद की विशेषताओं पर ध्यान केंद्रित करना चाहते हैं – जो यह है और जो नहीं है – और उन विशेषताओं को कैसे विभिन्न संदर्भों में नैतिक गलत करने का कारण बन सकता है। जब यह अच्छी तरह से किया जाता है, तो यह एक प्रणालीगत और थकाऊ निरीक्षण है। बिल्कुल, जबकि आप अपने सर्वोत्तम प्रयासों के साथ कोने के चारों ओर देखने की कोशिश कर सकते हैं, कुछ चीजें हो सकती हैं जिन्हें आप याद कर सकते हैं, जो कि निरंतर निगरानी के महत्व को रेखांकित करता है।

इसे लागू करने के लिए कंपनियों के लिए क्यों: उन्हें बस नैतिक, प्रतिष्ठा, नियामक और कानूनी जोखिमों पर विचार करने की आवश्यकता है जो इसके लिए नहीं है। ऑप्टम के बारे में सोचें जो (अलlegedly) पूर्वाग्रहित एल्गोरिदम के लिए समाचार में है और नियामक जांच के अधीन है जो स्वास्थ्य देखभाल पेशेवरों को अधिक ध्यान देने की सिफारिश करता है श्वेत रोगियों की तुलना में काले रोगियों की तुलना में। या गोल्डमैन सैक्स, जो क्रेडिट सीमा के लिए एप्पल कार्ड की जांच के अधीन है, जो कथित तौर पर महिलाओं के खिलाफ भेदभावपूर्ण है। या अमेज़न के हायरिंग सॉफ़्टवेयर, जिसे तैनाती से पहले पूर्वाग्रह के बारे में चिंताओं के कारण समाप्त कर दिया गया था। या आईबीएम को लॉस एंजिल्स द्वारा मौसम ऐप से एकत्र किए गए डेटा के दुरुपयोग के लिए मुकदमा चलाया जा रहा है। या फेसबुक…

क्या आप वर्चू कंसल्टेंट्स के बारे में और कुछ साझा करना चाहेंगे?

(GS ) (AAPL ) (AMZN ) (META )

वर्चू वरिष्ठ नेताओं को एआई नैतिकता को व्यवहार में लाने में मदद करता है, चाहे वह लोगों को इस विषय पर शिक्षित और अपस्किल करने में मदद कर रहा हो, एक एआई नैतिकता बयान लिख रहा हो, एक कार्रवाई योग्य एआई नैतिक जोखिम ढांचे बना और लागू कर रहा हो, या सिर्फ एआई नैतिकता पर सलाहकार के रूप में कार्य कर रहा हो। यदि यह दिलचस्प लगता है, तो लोगों को नमस्कार कहना चाहिए।

साक्षात्कार के लिए धन्यवाद, पाठक जो रीड के बारे में अधिक जानना चाहते हैं उन्हें रीड ब्लैकमैन पर जाना चाहिए, या वे वर्चू कंसल्टेंट्स पर जा सकते हैं।