ब्रैडफोर्ड न्यूमैन, उत्तर अमेरिका व्यापार गोपनीयता अभ्यास के अध्यक्ष – साक्षात्कार श्रृंखला

ब्रैडफोर्ड व्यापार गोपनीयता और कृत्रिम बुद्धिमत्ता से संबंधित मामलों में माहिर हैं। वह अमेरिकी बार संघ की कृत्रिम बुद्धिमत्ता उपसमिति के अध्यक्ष हैं। 2019 में डेली जर्नल द्वारा कैलिफोर्निया में शीर्ष 20 कृत्रिम बुद्धिमत्ता वकीलों में से एक के रूप में मान्यता प्राप्त, ब्रैडफोर्ड ने 2018 में संयुक्त राज्य अमेरिका के प्रतिनिधि सभा के चर्चा मसौदा बिल में बदलने के लिए संघीय कृत्रिम बुद्धिमत्ता कार्यस्थल और बौद्धिक संपदा विधायी प्रस्तावों का प्रस्ताव देने में महत्वपूर्ण भूमिका निभाई है। उन्होंने अल्गोरिदमिक न्यायसंगतता सुनिश्चित करने के लिए कृत्रिम बुद्धिमत्ता पर्यवेक्षण और निगमित शासन सर्वोत्तम प्रथाओं को भी विकसित किया है।

कृत्रिम बुद्धिमत्ता में आपकी रुचि को क्या पहले से ही जगाया गया था?

मैंने कई वर्षों से दुनिया के अग्रणी नवोन्मेषकों और कृत्रिम बुद्धिमत्ता उत्पादों और प्रौद्योगिकी के उत्पादकों का प्रतिनिधित्व किया है। मेरी रुचि हमेशा पर्दे के पीछे जाने और मशीन लर्निंग के कानूनी और तकनीकी पहलुओं को समझने में रही है, और कृत्रिम बुद्धिमत्ता को विकसित होते देखने में है। मैं विभिन्न डोमेन में इसके अनुप्रयोगों की संभावनाओं से आकर्षित हूं।

आप कृत्रिम बुद्धिमत्ता के तर्कसंगत नियमन के लिए एक शक्तिशाली समर्थक हैं, विशेष रूप से सार्वजनिक स्वास्थ्य की रक्षा करने वाले नियमन में। आप कुछ प्रमुख चिंताओं पर चर्चा कर सकते हैं?

मुझे लगता है कि हम मानवता द्वारा अनुभव की गई सबसे गहरी क्रांति के शुरुआती चरण में हैं। कृत्रिम बुद्धिमत्ता हमारे जीवन के हर पहलू को प्रभावित करने की क्षमता रखती है, सुबह उठने से लेकर रात को सोने तक — और सोते समय भी। कृत्रिम बुद्धिमत्ता के कई अनुप्रयोग हमारे जीवन की गुणवत्ता को सकारात्मक रूप से प्रभावित करेंगे, और संभवतः हमारी प्रजाति की दीर्घायु को भी।

वर्तमान में, कंप्यूटर विज्ञान और मशीन लर्निंग के दृष्टिकोण से, मनुष्य अभी भी प्रक्रिया में बहुत शामिल हैं, अल्गोरिदम को कोड करने से लेकर, प्रशिक्षण डेटा सेट को समझने से, परिणामों को संसाधित करने से, कमियों को पहचानने और प्रौद्योगिकी को उत्पादित करने तक।

लेकिन हम दो प्रमुख मोर्चों पर समय के खिलाफ दौड़ में हैं। पहला, जिसे आमतौर पर “ब्लैक बॉक्स” समस्या के रूप में जाना जाता है: कृत्रिम बुद्धिमत्ता में मानवीय भागीदारी और समझ समय के साथ कम हो जाएगी क्योंकि कृत्रिम बुद्धिमत्ता की जटिलता (मानो एएनएन) विकसित होगी। और दूसरा, सरकारों और निजी हितों द्वारा कृत्रिम बुद्धिमत्ता का उपयोग बढ़ेगा।

मेरी चिंता है कि कृत्रिम बुद्धिमत्ता का उपयोग, जानबूझकर और अनजाने में, व्यक्तिगत स्वतंत्रता और स्वतंत्रता के पाश्चात्य लोकतांत्रिक आदर्शों के विपरीत तरीके से किया जाएगा।

इन चिंताओं को कैसे संबोधित किया जाए?

सociety को यह तय करने का समय आ गया है कि कृत्रिम बुद्धिमत्ता के संबंध में क्या संभव है, लेकिन क्या निषिद्ध या आंशिक रूप से प्रतिबंधित किया जाना चाहिए।

पहले, हमें उन निर्णयों की पहचान करनी चाहिए जो कभी भी कृत्रिम बुद्धिमत्ता द्वारा उत्पन्न अल्गोरिदमिक आउटपुट द्वारा पूरी तरह से या आंशिक रूप से नहीं किए जा सकते हैं। इसका अर्थ है कि यहां तक कि उन स्थितियों में जहां हर विशेषज्ञ सहमत है कि डेटा पूरी तरह से निष्पक्ष, पारदर्शी और सटीक है, कृत्रिम बुद्धिमत्ता का उपयोग किसी भी प्रकार के भविष्यवाणी या वास्तविक निर्णय लेने के लिए एक सांविधिक निषेध होना चाहिए।

स्वीकारोक्ति, यह एक दुनिया में परिकल्पनात्मक है जहां हम गणितीय निश्चितता की लालसा करते हैं, लेकिन कृत्रिम बुद्धिमत्ता “नो-फ्लाई ज़ोन” स्थापित करना हमारी स्वतंत्रता को संरक्षित करने के लिए आवश्यक है जो हम सभी को प्रिय है और जो हमारे समाज के लिए आधार के रूप में कार्य करती है।

दूसरा, अन्य पहचाने गए निर्णयों के लिए जो कृत्रिम बुद्धिमत्ता विश्लेषण पर आधारित हैं, हमें विधायी निर्धारित करने की आवश्यकता है कि कौन से निर्णय लेने में मानवीय भागीदारी आवश्यक है।

आप संघीय कृत्रिम बुद्धिमत्ता कार्यस्थल और बौद्धिक संपदा विधायी प्रस्तावों का प्रस्ताव देने में महत्वपूर्ण भूमिका निभाई है, जो 2018 में संयुक्त राज्य अमेरिका के प्रतिनिधि सभा के चर्चा मसौदा बिल में बदल गया। कुछ प्रस्तावों पर चर्चा कर सकते हैं?

कृत्रिम बुद्धिमत्ता डेटा संरक्षण अधिनियम नवाचार को बढ़ावा देने और कृत्रिम बुद्धिमत्ता के स्वभाव और उपयोग में पारदर्शिता बढ़ाने के लिए डिज़ाइन किया गया है, और सार्वजनिक स्वास्थ्य और सुरक्षा की रक्षा करने के लिए।

इसके कई प्रमुख घटक हैं। उदाहरण के लिए, यह कुछ निर्णयों के लिए कृत्रिम बुद्धिमत्ता पर अकेले निर्भर करने पर रोक लगाता है, जिसमें रोजगार के संबंध में व्यक्तियों के निर्णय या चिकित्सा उपचार की अस्वीकृति शामिल है, और यह चिकित्सा बीमा जारीकर्ताओं को कृत्रिम बुद्धिमत्ता विश्लेषण के आधार पर चिकित्सा उपचार कवरेज के संबंध में निर्णय लेने से रोकता है। यह सार्वजनिक स्वास्थ्य और सुरक्षा के संबंध में कृत्रिम बुद्धिमत्ता को नियंत्रित करने के लिए एक नई संघीय एजेंसी के रूप में कृत्रिम बुद्धिमत्ता बोर्ड की स्थापना करता है। और यह कवर किए गए संस्थाओं को एक मुख्य कृत्रिम बुद्धिमत्ता अधिकारी नियुक्त करने की आवश्यकता है।

आपने अल्गोरिदमिक न्यायसंगतता सुनिश्चित करने के लिए कृत्रिम बुद्धिमत्ता पर्यवेक्षण और निगमित शासन सर्वोत्तम प्रथाओं को भी विकसित किया है। कृत्रिम बुद्धिमत्ता प्रणालियों में न्यायसंगतता या पूर्वाग्रह के साथ वर्तमान मुद्दों पर चर्चा कर सकते हैं?

यह विषय अकादमिक दृष्टिकोण से गहन जांच का विषय रहा है और अब अमेरिकी सरकारी एजेंसियों जैसे ईईओसी और मुकदमा चलाने वाले वकीलों का ध्यान आकर्षित कर रहा है। अधिकांश समय, कारण प्रशिक्षण डेटा सेट में दोष या परीक्षण वातावरण में समझ और पारदर्शिता की कमी के कारण होता है। यह वरिष्ठ प्रबंधन द्वारा कृत्रिम बुद्धिमत्ता के केंद्रीय स्वामित्व और पर्यवेक्षण की कमी से जटिल है।

यह तकनीकी समझ और स्थितिजन्य जागरूकता की कमी एक महत्वपूर्ण दायित्व चिंता है। मैंने कई प्रमुख मुकदमा चलाने वाले वकीलों से बात की है जो कृत्रिम बुद्धिमत्ता पूर्वाग्रह मामलों की तलाश में हैं।

गहरी सीखने में अक्सर “ब्लैक बॉक्स” समस्या होती है, जहां हम एक कृत्रिम तंत्रिका नेटवर्क में डेटा इनपुट करते हैं और फिर आउटपुट प्राप्त करते हैं, लेकिन यह नहीं जानते कि आउटपुट कैसे उत्पन्न हुआ। क्या आप इसे एक प्रमुख समस्या मानते हैं?

हाँ, मैं करता हूँ। और जैसे-जैसे अल्गोरिदम और न्यूरल नेटवर्क विकसित होते हैं, और मनुष्य तेजी से “लूप” से बाहर हो जाते हैं, यह जोखिम है कि हम उस बिंदु से गुजर जाएंगे जहां हम कृत्रिम बुद्धिमत्ता के कार्य और आउटपुट के महत्वपूर्ण तत्वों को समझने में सक्षम नहीं होंगे।

कोविड-19 के साथ दुनिया भर के देशों ने कृत्रिम बुद्धिमत्ता संचालित राज्य निगरानी प्रणालियों की शुरुआत की है। इस प्रकार की निगरानी के साथ आपके पास कितनी समस्या है?

यह व्यक्तिगत अधिकारों और स्वतंत्रता के दृष्टिकोण से असावधानी और वास्तव में अनुचित होगा कि इस प्रकार की निगरानी के दुरुपयोग के जोखिम को कम करना या अनदेखा करना। जबकि संपर्क अनुवर्ती कार्रवाई एक वैश्विक महामारी के बीच में समझदार लगती है, और कृत्रिम बुद्धिमत्ता-आधारित चेहरे की पहचान एक प्रभावी उपाय प्रदान करती है जो मानव अकेले प्राप्त नहीं कर सकते हैं, समाज को दुरुपयोग पर कानूनी निषेध और प्रभावी पर्यवेक्षण और प्रवर्तन तंत्र स्थापित करना चाहिए। अन्यथा, हम एक मूलभूत तत्व को राज्य को सौंप रहे हैं जो हमारे मौलिक अधिकारों और गोपनीयता का हिस्सा है। एक बार जब हम इसे सामूहिक रूप से दे देते हैं, तो यह मूलभूत स्वतंत्रता और गोपनीयता का यह मूल तत्व वापस नहीं किया जाएगा।

आप पहले कह चुके हैं कि “हमें कृत्रिम बुद्धिमत्ता ‘नो-फ्लाई ज़ोन’ स्थापित करना चाहिए यदि हम अमेरिकियों के लिए प्रिय स्वतंत्रता को संरक्षित करना चाहते हैं जो हमारे समाज के लिए आधार के रूप में कार्य करती है।” कुछ चिंताओं को साझा कर सकते हैं?

कृत्रिम बुद्धिमत्ता पर चर्चा करते समय, हमें कृत्रिम बुद्धिमत्ता के मूल उद्देश्य पर ध्यान केंद्रित करना चाहिए: बड़े डेटा सेट से सटीक भविष्यवाणी विश्लेषण उत्पन्न करने के लिए, जो तब मानव वर्गीकरण और निर्णय लेने के लिए उपयोग किया जाता है। अगला, हमें यह देखना चाहिए कि निर्णय लेने वाले कौन हैं, वे क्या निर्णय ले रहे हैं, और वे किस पर अपने निर्णयों के लिए आधारित हैं।

यदि हम समझते हैं कि निर्णय लेने वाले वे हैं जो हमारे स्वास्थ्य, आजीविका और स्वतंत्रता पर सबसे बड़ा प्रभाव डालते हैं – नियोक्ता, मकान मालिक, डॉक्टर, बीमा प्रदाता, कानून प्रवर्तन और हर उस निजी व्यावसायिक और सरकारी उद्यम जो कृत्रिम बुद्धिमत्ता विश्लेषण उत्पन्न, संग्रहीत या खरीद सकता है – तो यह देखना आसान हो जाता है कि एक पश्चिमी उदार लोकतंत्र में, एक तानाशाही शासन के विपरीत, ऐसे निर्णय होने चाहिए जो कृत्रिम बुद्धिमत्ता को अकेले नहीं छोड़ देना चाहिए।

जबकि कई स्पष्ट निर्णय दिमाग में आते हैं, जैसे कि अपराध करने से पहले किसी को जेल में डालने पर रोक, कृत्रिम बुद्धिमत्ता का व्यापक अपनाना हमारे जीवन के हर पहलू में अधिक जटिल उदाहरण प्रस्तुत करता है। उदाहरण के लिए, यदि एक अल्गोरिदम सटीक रूप से भविष्यवाणी करता है कि जो कर्मचारी सोशल मीडिया पर समुद्र तट की छुट्टियों की तस्वीरें पोस्ट करते हैं जिनमें वे शराब पी रहे हैं, वे जो लोग व्यायाम करने वाली तस्वीरें पोस्ट करते हैं उन लोगों की तुलना में औसतन 3.5 साल पहले नौकरी छोड़ देते हैं या निकाल दिए जाते हैं, तो क्या पहले वर्ग को अकेले अल्गोरिदमिक आउटपुट के आधार पर पदोन्नति या वेतन वृद्धि से इनकार किया जाना चाहिए? यदि एक अल्गोरिदम यह निर्धारित करता है कि जो किशोर वीडियोगेम खेलते हैं उन्हें औसतन 2 घंटे से अधिक समय तक खेलने वाले विश्वविद्यालय से स्नातक होने की संभावना कम होती है, तो क्या ऐसे छात्रों को प्रवेश से इनकार कर देना चाहिए? यदि एशियाई महिलाएं जो 60 के दशक में कोविड-19 से संबंधित लक्षणों के लिए आईसीयू में भर्ती हैं, अफ्रीकी अमेरिकी पुरुषों की तुलना में जो 70 के दशक में हैं, ज्यादा जीवित रहने की दर है, तो क्या महिलाओं को प्राथमिकता वाला चिकित्सा उपचार मिलना चाहिए?

ये सरलीकृत उदाहरण कुछ ऐसे निर्णयों के उदाहरण हैं जहां कृत्रिम बुद्धिमत्ता पर अकेले निर्भर रहना हमारे व्यक्तिगत मानवाधिकारों के लिए आवश्यक होने के हमारे दृष्टिकोण के विपरीत है।

कृत्रिम बुद्धिमत्ता या बेकर मैकेंजी के बारे में और कुछ साझा करना चाहेंगे?

मैं बेकर मैकेंजी की वास्तव में अंतरराष्ट्रीय कृत्रिम बुद्धिमत्ता अभ्यास का नेतृत्व करने के लिए बहुत उत्साहित हूं, जो बदलते परिदृश्य के बीच में है। हम पहचानते हैं कि हमारे ग्राहक सभी चीजों पर मार्गदर्शन के लिए भूखे हैं, चाहे वह अनुबंधों पर बातचीत करना हो, आंतरिक पर्यवेक्षण स्थापित करना हो, पूर्वाग्रह के दावों से बचना हो, या उभरते घरेलू और अंतर्राष्ट्रीय नियामक ढांचे को समझना हो।

कंपनियां सही काम करना चाहती हैं, लेकिन कृत्रिम बुद्धिमत्ता और मशीन लर्निंग को समझने के लिए आवश्यक विशेषज्ञता और ज्ञान वाले बहुत कम कानूनी फर्म हैं। जो लोग कृत्रिम बुद्धिमत्ता के शौकीन हैं और वकील भी हैं, यह हमारे ग्राहकों के लिए वास्तविक मूल्य जोड़ने का एक रोमांचक समय है।

कृत्रिम बुद्धिमत्ता से संबंधित कुछ प्रमुख सामाजिक चिंताओं के बारे में आपके शानदार उत्तरों के लिए धन्यवाद। ब्रैडफोर्ड न्यूमैन के बारे में अधिक जानने के इच्छुक पाठकों को यहां क्लिक करना चाहिए。