रीड ब्लैकमैन, पीएचडी, वर्चू कंसल्टेंट्स के संस्थापक और सीईओ – साक्षात्कार श्रृंखला

रीड ब्लैकमैन वर्चू कंसल्टेंट्स के संस्थापक और सीईओ हैं। इस क्षमता में, उन्होंने कंपनियों के साथ काम किया है ताकि वे नैतिकता और नैतिक जोखिम मितिगेशन को कंपनी संस्कृति और उभरती प्रौद्योगिकी उत्पादों के विकास, तैनाती और खरीद में एकीकृत कर सकें। वह अर्न्स्ट एंड यंग के वरिष्ठ सलाहकार भी हैं और उनके आर्टिफिशियल इंटेलिजेंस एडवाइजरी बोर्ड में बैठते हैं, और आईईईई के नैतिक रूप से संरचित डिज़ाइन पहल के सदस्य हैं।

रीड का काम द वॉल स्ट्रीट जर्नल और डेल पर्सपेक्टिव्स में प्रोफाइल किया गया है और उन्होंने द हार्वर्ड बिजनेस रिव्यू, टेकक्रंच, वेंचरबीट, और रिस्क एंड कॉम्प्लायंस मैगज़ीन के लिए टुकड़े योगदान दिए हैं। उन्हें कई समाचार लेखों में उद्धृत किया गया है, और वे विभिन्न स्थानों पर नियमित रूप से बोलते हैं, जिनमें विश्व आर्थिक मंच, एसएपी, कान फिल्म फेस्टिवल, फोर्ब्स, एनवाईयू स्टर्न स्कूल ऑफ बिजनेस, कोलंबिया विश्वविद्यालय और एआईजी शामिल हैं।

आप 2009 से 2018 तक कोलगेट विश्वविद्यालय में एक दर्शन प्रोफेसर थे। आपने अपने पाठ्यक्रम में एआई नैतिकता को कब शामिल करना शुरू किया?

मैं अक्सर सामाजिक और राजनीतिक दर्शन पर एक पाठ्यक्रम सिखाता था, जहां मैं मार्क्स को कवर करता था। मार्क्स के केंद्रीय दावों में से एक यह है कि पूंजीवाद अंततः समाजवाद में जगह बना लेगा, क्योंकि “उत्पादन के साधन” में एक बड़ा वृद्धि होगी। दूसरे शब्दों में, पूंजीवाद प्रतियोगिता और नए बाजारों को खोलने के नाम पर अधिक से अधिक कुशलता की ओर धकेलता है, जिसका अर्थ है कि प्रौद्योगिकियों का निर्माण जो कम से कम समय में अधिक से अधिक आउटपुट दे सकती हैं। मार्क्स ने यह भी भविष्यवाणी की कि यह धन को कुछ लोगों के हाथों में और अधिक से अधिक लोगों को गरीबी में धकेल देगा, जिस बिंदु पर पूंजीवादी संरचनाओं को बढ़ती संख्या में गरीब जनसंख्या द्वारा क्रांति के माध्यम से उलट दिया जाएगा। यह सब प्रौद्योगिकी द्वारा मानव श्रम की आवश्यकता को समाप्त करने की नैतिकता के आसपास एक चर्चा की ओर ले जाता है, जो कि एआई नैतिकता का एक केंद्रीय तत्व है।

छोटी साइड-स्टोरी यदि आप रुचि रखते हैं: 2002 में मैं नॉर्थवेस्टर्न विश्वविद्यालय में स्नातक छात्रों के साथ मार्क्स पर एक चर्चा का नेतृत्व कर रहा था। एक बिंदु पर, एक छात्र ने अपना हाथ उठाया और कहा, “अंततः हमें किसी भी काम के लिए मानवों की आवश्यकता नहीं होगी।” कक्षा भ्रमित थी। मैं भ्रमित था। इसलिए मैंने कहा, “तो कौन काम करेगा?” उन्होंने एक बहुत ही तथ्यात्मक तरीके से जवाब दिया: “रोबोट।” कक्षा में हंसी फूट पड़ी। मैंने अपनी हंसी को दबा दिया। लेकिन यह khá स्पष्ट है कि किसने आखिरी हंसी मारी।

2018 में, आपने वर्चू कंसल्टेंट्स लॉन्च किया, एक नैतिकता परामर्श जो डेटा और एआई के नेताओं को उनके उत्पादों के नैतिक जोखिमों की पहचान करने और उन्हें कम करने में सशक्त बनाता है। इस उद्यमी यात्रा को शुरू करने के लिए आपको क्या प्रेरित किया?

ईर्ष्या। खैर, कुछ हद तक। मैंने 2003 या 2004 के आसपास एक आग्नेयास्त्र वितरक कंपनी शुरू की जब मैं एक स्नातक छात्र था। वह बेहतर हुआ niż मैंने उम्मीद की थी, और कंपनी अभी भी मौजूद है, हालांकि अब मैं एक सलाहकार हूं और दैनिक संचालन का ध्यान नहीं रखता। वैसे भी, यह प्रासंगिक है क्योंकि यह बताता है कि मैं कैसे कोलगेट के उद्यमिता कार्यक्रम (टीआईए, थॉट इंटू एक्शन, एंडी ग्रीनफील्ड और विल्स हैपवर्थ द्वारा चलाया गया, जो टीआईए वेंचर्स चलाते हैं) में स्टार्टअप के लिए एक मेंटर बन गया। एक मेंटर के रूप में, मैंने छात्रों को रोमांचक परियोजनाओं पर काम करते हुए देखा क्योंकि वे अपने लाभ या गैर-लाभकारी स्टार्टअप की स्थापना और स्केलिंग के लिए कैसे काम करें, इस पर काम कर रहे थे। मैंने सोचा, “मैं यह चाहता हूं!” लेकिन मेरा नया उद्यम क्या होगा? यह मेरे प्यार के दर्शन और नैतिकता को संबोधित करना था, और पहली चीज जो समझ में आई थी वह एक नैतिकता परामर्श थी। मैंने उस समय बाजार के लिए ऐसी सेवाओं को नहीं देखा, क्योंकि वहां कुछ नहीं था, इसलिए मैंने प्रतीक्षा की। और फिर कैम्ब्रिज एनालिटिका, बीएलएम, और # मीटू ने राष्ट्रीय हेडलाइंस बनाई, और अचानक नैतिकता की आवश्यकता के बारे में एक बड़ा जागरूकता था।

कंपनियों के लिए एक एआई नैतिकता बयान पेश करना कितना महत्वपूर्ण है?

एक एआई नैतिकता बयान आवश्यक नहीं है, लेकिन यह अपने लक्ष्यों को निर्धारित करने के लिए एक बहुत ही उपयोगी उपकरण है। जब आप अपने संगठन में एक एआई नैतिकता कार्यक्रम पेश कर रहे हैं, तो आप नैतिक, प्रतिष्ठा, नियामक, और कानूनी जोखिमों की पहचान करना और उन्हें कम करना और प्रबंधित करना चाहते हैं। यह इसका मुख्य कार्य है। एक नैतिकता बयान आपको उन लक्ष्यों को व्यक्त करने में मदद करता है जो एक बार जब आप बुनियादी ढांचे, प्रक्रिया, और प्रथाओं को हासिल करने के लिए स्थापित करते हैं तो कार्य करने के लिए। जितना एक रणनीति को एक लक्ष्य की आवश्यकता होती है – जो यह हमेशा करता है – एक एआई नैतिकता बयान उन लक्ष्यों को व्यक्त करने का एक अच्छा तरीका है, हालांकि यह एकमात्र तरीका नहीं है।

कंपनियां नैतिकता बयान को प्रक्रिया और अभ्यास में कैसे सुनिश्चित कर सकती हैं?
एक नैतिकता बयान बस एक छोटा सा कदम है सही दिशा में। यदि आप आगे बढ़ना चाहते हैं, तो अगला प्राकृतिक कदम यह है कि आप अपने लक्ष्यों के सापेक्ष अपनी स्थिति का आकलन करें जो उस बयान में व्यक्त किए गए हैं। एक बार जब आप जानते हैं कि सबसे बड़े, जोखिम भरे अंतराल कहां हैं – अर्थात्, आप अपने लक्ष्यों से चूकने के लिए सबसे ज्यादा जोखिम में हैं – तो आप उन अंतरालों को संकुचित करने के लिए समाधान बनाना शुरू कर सकते हैं। शायद यह एक नैतिकता समिति है। शायद यह उत्पाद विकास के दौरान एक देखभाल प्रक्रिया है। शायद यह बेहतर होने के लिए है कि आप गैर-उत्पाद विभागों में डेटा के साथ कैसे व्यवहार करते हैं, जैसे कि विपणन और एचआर। शायद यह सभी चीजें और अधिक हैं।

कंपनियों को वास्तविक एआई अल्गोरिदम में पूर्वाग्रह से बचने के लिए क्या समाधान लागू करने चाहिए?

पूर्वाग्रह की पहचान करने के लिए कई तकनीकी उपकरण हैं, लेकिन वे सीमित हैं। वे आपको अपने मॉडल के आउटपुट की तुलना अकादमिक एमएल नैतिकता साहित्य में प्रस्तावित दर्जनों मात्रात्मक मीट्रिक के खिलाफ करने की अनुमति देंगे, लेकिन आपको सावधान रहना होगा क्योंकि वे मीट्रिक परस्पर विरोधी नहीं हैं। इसलिए, एक मैट्रिक को चुनने के लिए एक वास्तविक, नैतिक निर्णय लेने की आवश्यकता है: क्या यह संदर्भ में उपयुक्त है?

उस तरह के एक उपकरण का उपयोग करने के अलावा, एक जिम्मेदार तरीके से उस प्रश्न का उत्तर देने के साथ, उत्पाद टीमें यह सोचने के लिए अच्छा करेंगी कि पूर्वाग्रह कहां से आ सकता है इससे पहले कि वे निर्माण शुरू करें। यह प्रशिक्षण डेटा सेट में कैसे हो सकता है? क्या होगा यदि यह उद्देश्य फ़ंक्शन में निर्धारित किया जाए? क्या होगा यदि यह सीमा निर्धारित करने में हो? पूर्वाग्रह कई जगहों पर आ सकता है। अपनी वर्तमान परियोजना में और यह कैसे वहां आ सकता है, इसके बारे में विचार करना और इसे पहचानने और कम करने के लिए आवश्यक है।

एआई कंपनियां अक्सर श्वेत पुरुषों द्वारा प्रभुत्व वाली होती हैं जो अनजाने में एआई प्रणाली में कुछ पूर्वाग्रहों को प्रोग्राम कर सकते हैं। इसे避्टने के लिए, मानव संसाधन विभाग को किस प्रकार के गुणों की तलाश करनी चाहिए?

मैं इंजीनियरों और उत्पाद टीमों के बीच अधिक अवसर और विविधता के लिए हूं। वह कहा जा रहा है, मुझे लगता है कि यह चीजों को गलत तरीके से देख रहा है। पूर्वाग्रहित एल्गोरिदम का मुख्य समस्या यह नहीं है कि कुछ श्वेत व्यक्ति के पूर्वाग्रह पूर्वाग्रहित कोड का कारण बनते हैं। यह है कि प्रशिक्षण डेटा सेट पूर्वाग्रहित हैं। वास्तव में, कोलंबिया से एक हालिया पेपर – “पूर्वाग्रहित प्रोग्रामर? या पूर्वाग्रहित डेटा? एआई नैतिकता को व्यवसायिक बनाने में एक फील्ड प्रयोग” – ने निष्कर्ष निकाला कि “[प्रोग्रामर जो तकनीकी मार्गदर्शन को समझते हैं] पूर्वाग्रह को सफलतापूर्वक कम करते हैं,” और “[एआई प्रोग्रामर महिला और अल्पसंख्यक] एल्गोरिदमिक पूर्वाग्रह या भेदभाव का प्रदर्शन नहीं करते हैं।” इसलिए, जबकि एचआर को विविधता मुद्दों पर ध्यान देना चाहिए, यह स्पष्ट नहीं है कि पूर्वाग्रहित एआई आउटपुट को कम करने के लिए रणनीतियों को मुख्य रूप से – या विशेष रूप से – विविधता प्रयासों के संबंध में नियुक्ति निर्णयों पर ध्यान केंद्रित करना चाहिए।

आप नैतिक जोखिम के लिए देयता क्या है और कंपनियों को इसे लागू करना क्यों चाहिए?

एक नैतिक जोखिम देयता यह है कि आप जिस उत्पाद का निर्माण कर रहे हैं, उसके साथ होने वाले विभिन्न नैतिक जोखिमों को पहचानने का प्रयास करें, जिसमें यह कैसे तैनात किया जा सकता है, इसका उपयोग और दुरुपयोग कैसे किया जा सकता है, आदि। आप उत्पाद की विशेषताओं पर ध्यान केंद्रित करना चाहते हैं – जो यह है और जो यह नहीं है – और उन विशेषताओं को विभिन्न संदर्भों में तैनात करने से नैतिक गलत काम हो सकता है। जब यह अच्छी तरह से किया जाता है, तो यह एक प्रणालीगत और थकाऊ निरीक्षण है। ज़ाहिर है, जबकि आप अपने सर्वोत्तम प्रयासों के साथ आगे की ओर देखने की कोशिश कर सकते हैं, संभवतः कुछ चीजें हैं जिन्हें आप याद कर सकते हैं, जो कि निरंतर निगरानी क्यों महत्वपूर्ण है।

कंपनियों को इसे लागू करना चाहिए क्योंकि उन्हें नैतिक, प्रतिष्ठा, नियामक, और कानूनी जोखिमों पर विचार करना होगा जो ऐसा नहीं करने के लिए हैं। ऑप्टम के बारे में सोचें जो ( कथित तौर पर ) पूर्वाग्रहित एल्गोरिदम के लिए नियामक जांच के तहत है जो स्वास्थ्य देखभाल पेशेवरों को अधिक ध्यान से सफेद रोगियों की तुलना में अधिक बीमार काले रोगियों को भुगतान करने की सिफारिश करता है। या गोल्डमैन सैक्स, जो ( कथित तौर पर ) महिलाओं के खिलाफ भेदभावपूर्ण होने के लिए एप्पल कार्ड के लिए क्रेडिट सीमा के लिए जांच के तहत है। या अमेज़ॅन का हायरिंग सॉफ़्टवेयर, जिसे तैनाती से पहले पूर्वाग्रह के बारे में चिंताओं के कारण खत्म कर दिया गया था। या आईबीएम, जो लॉस एंजिल्स द्वारा अपने मौसम ऐप से एकत्र किए गए डेटा के कथित तौर पर दुरुपयोग के लिए मुकदमा चलाया जा रहा है। या फ़ेसबुक …

क्या वर्चू कंसल्टेंट्स के बारे में और कुछ है जो आप साझा करना चाहेंगे?

वर्चू वरिष्ठ नेताओं को एआई नैतिकता को व्यवहार में लाने में मदद करता है, चाहे वह लोगों को इस विषय पर शिक्षित और कौशल में सुधार करने में मदद करना हो, एक एआई नैतिकता बयान लिखना हो, एक कार्रवाई योग्य एआई नैतिक जोखिम ढांचे का निर्माण और कार्यान्वयन करना हो, या बस एआई नैतिकता पर एक सलाहकार के रूप में कार्य करना हो। यदि यह दिलचस्प लगता है, तो लोगों को नमस्कार कहना चाहिए।

धन्यवाद महान साक्षात्कार के लिए, पाठक जो रीड के बारे में अधिक जानना चाहते हैं उन्हें रीड ब्लैकमैन पर जाना चाहिए, या वे वर्चू कंसल्टेंट्स पर जा सकते हैं।