जुलियेट पowell और आर्ट क्लेनर, द AI डिलेमा के लेखक – साक्षात्कार श्रृंखला

द AI डिलेमा जुलियेट पowell और आर्ट क्लेनर द्वारा लिखा गया है।

जुलियेटे पowell एक लेखक, एक टेलीविजन निर्माता जिसके 9,000 लाइव शो हैं, और एक प्रौद्योगिकीविद् और समाजशास्त्री हैं। वह ब्लूमबर्ग टीवी/बिजनेस न्यूज नेटवर्क पर एक टिप्पणीकार और अर्थशास्त्री और अंतर्राष्ट्रीय वित्त निगम द्वारा आयोजित सम्मेलनों में एक वक्ता हैं। उनके टेड टॉक को यूट्यूब पर 130K व्यूज मिले हैं। जुलियेट उन व्यवसायिक नेताओं के पैटर्न और प्रथाओं की पहचान करती है जो नैतिक एआई और डेटा पर दांव लगाकर जीतते हैं। वह एनवाईयू के आईटीपी में संकाय में हैं, जहां वह चार पाठ्यक्रम सिखाती है, जिनमें डिजाइन स्किल्स फॉर रिस्पॉन्सिबल मीडिया शामिल है, जो उनकी पुस्तक पर आधारित है।

आर्ट क्लेनर एक लेखक, संपादक और भविष्यवाणी विशेषज्ञ हैं। उनकी पुस्तकों में द एज ऑफ हरेटिक्स, हू रियली मैटर्स, प्रिविलेज एंड सक्सेस, और द वाइज शामिल हैं। वह पीडब्ल्यूसी द्वारा प्रकाशित पुरस्कार विजेता पत्रिका स्ट्रैटजी+बिजनेस के संपादक थे। आर्ट एनवाईयू-आईटीपी और आईएमए में एक लंबे समय से संकाय सदस्य हैं, जहां उनके पाठ्यक्रमों में रिस्पॉन्सिबल टेक्नोलॉजी और मीडिया के भविष्य की संयुक्त शिक्षा शामिल है।
“द AI डिलेमा” एक पुस्तक है जो गलत हाथों में एआई प्रौद्योगिकी के खतरों पर केंद्रित है, जबकि एआई द्वारा समाज को प्रदान किए जाने वाले लाभों को स्वीकार करती है।

समस्याएं तब उत्पन्न होती हैं क्योंकि अंतर्निहित प्रौद्योगिकी इतनी जटिल है कि यह बंद-बॉक्स प्रणाली के आंतरिक कार्यों को वास्तव में समझना असंभव हो जाता है।

उल्लिखित सबसे महत्वपूर्ण मुद्दों में से एक यह है कि जिम्मेदार एआई की परिभाषा हमेशा बदलती रहती है, क्योंकि सामाजिक मूल्य अक्सर समय के साथ स्थिर नहीं रहते हैं।

मुझे “द AI डिलेमा” पढ़ने में बहुत आनंद आया। यह एक पुस्तक नहीं है जो एआई के खतरों को संवेदनशील बनाती है या आर्टिफिशियल जनरल इंटेलिजेंस (एजीआई) की संभावित खामियों में गहराई से जाती है। इसके बजाय, पाठकों को यह जानने का अवसर मिलता है कि हमारे व्यक्तिगत डेटा का हमारी जानकारी के बिना कैसे उपयोग किया जाता है, साथ ही एआई की वर्तमान सीमाओं और चिंता के कारणों के बारे में जानकारी मिलती है।

नीचे कुछ प्रश्न दिए गए हैं जो हमारे पाठकों को यह दिखाने के लिए डिज़ाइन किए गए हैं कि वे इस ग्राउंडब्रेकिंग पुस्तक से क्या उम्मीद कर सकते हैं।

आपको “द AI डिलेमा” लिखने के लिए क्या प्रेरित किया?

जुलियेट ने कोलंबिया में एआई के नियमन की सीमाओं और संभावनाओं का अध्ययन करने के लिए भाग लिया। उन्होंने अपने दोस्तों से सुना जो एआई परियोजनाओं पर काम कर रहे थे, जिनमें निहित तनाव था। उन्हें यह निष्कर्ष निकाला कि एक एआई दुविधा थी, एक बहुत बड़ी समस्या जो स्व-नियमन से अधिक थी। उन्होंने एपेक्स बेंचमार्क मॉडल विकसित किया – एक मॉडल जो यह दिखाता है कि एआई के बारे में निर्णय कैसे कम जिम्मेदारी की ओर बढ़ते हैं क्योंकि कंपनियों और समूहों के भीतर बातचीत होती है। यह उनके शोध प्रबंध में परिणत हुआ।

आर्ट ने जुलियेट के साथ कई लेखन परियोजनाओं पर काम किया था। उन्होंने जुलियेट के शोध प्रबंध पढ़ा और कहा, “आपके पास एक पुस्तक है।” जुलियेट ने उन्हें सह-लेखक के रूप में आमंत्रित किया। एक साथ काम करते हुए, उन्होंने पाया कि उनके पास बहुत अलग दृष्टिकोण हैं, लेकिन उन्हें यह मजबूत दृष्टिकोण साझा करने की आवश्यकता है कि यह जटिल, उच्च जोखिम वाली एआई घटना को बेहतर ढंग से समझने की आवश्यकता है ताकि लोग इसका अधिक जिम्मेदारी से और प्रभावी ढंग से उपयोग कर सकें।

द AI डिलेमा में जो मूलभूत समस्या उठाई गई है, वह यह है कि वर्तमान में यह समझना असंभव है कि क्या एआई प्रणाली जिम्मेदार है या यह सामाजिक असमानता को बढ़ावा देती है या नहीं, केवल इसके स्रोत कोड का अध्ययन करके। यह कितनी बड़ी समस्या है?

समस्या मुख्य रूप से स्रोत कोड के साथ नहीं है। जैसा कि कैथी ओ’नील बताती हैं, जब एक बंद-बॉक्स प्रणाली होती है, तो यह केवल कोड नहीं है। यह सामाजिक-प्रौद्योगिकी प्रणाली है – मानव और प्रौद्योगिकी बल जो एक दूसरे को आकार देते हैं – जिसे अन्वेषित किया जाना चाहिए। एआई प्रणाली को बनाने और जारी करने में शामिल तर्क में एक उद्देश्य की पहचान करना, डेटा की पहचान करना, प्राथमिकताएं निर्धारित करना, मॉडल बनाना, मशीन लर्निंग के लिए दिशानिर्देश और गार्डरेल स्थापित करना और तय करना शामिल है कि मानव हस्तक्षेप कब और कैसे करेगा। यह वह हिस्सा है जिसे पारदर्शी बनाया जाना चाहिए – कम से कम पर्यवेक्षकों और ऑडिटरों के लिए। जब इन प्रक्रिया के हिस्सों को छुपाया जाता है, तो सामाजिक असमानता और अन्य जोखिमों का जोखिम बहुत अधिक होता है। आप वास्तव में स्रोत कोड से डिजाइन तर्क को पुनः अभियांत्रित नहीं कर सकते हैं।

क्या एक्सप्लेनेबल एआई (एक्सएआई) पर ध्यान केंद्रित करने से यह समस्या का समाधान हो सकता है?

इंजीनियरों के लिए, व्याख्यात्मक एआई वर्तमान में प्रौद्योगिकी के प्रतिबंधों और प्रथाओं के एक समूह के रूप में सोचा जाता है, जो मॉडलों को उन पर काम करने वाले लोगों के लिए अधिक पारदर्शी बनाने के लिए है। किसी को गलत तरीके से आरोपित किए जाने के लिए, व्याख्या का एक अलग अर्थ और तत्कालिकता है। उन्हें अपने बचाव में पुशबैक करने में सक्षम होने के लिए व्याख्या की आवश्यकता है। हमें व्याख्या की आवश्यकता है ताकि व्यवसाय या सरकारी निर्णयों के आधार पर मॉडल स्पष्ट हों। कम से कम संयुक्त राज्य अमेरिका में, व्याख्या – मानवता के अधिकार को जानने के अधिकार – और एक संगठन के प्रतिस्पर्धा और नवाचार के अधिकार के बीच हमेशा तनाव रहेगा। ऑडिटर और नियामक एक अलग स्तर की व्याख्या की आवश्यकता है। हम इसके बारे में द AI डिलेमा में अधिक विस्तार से बताते हैं।

क्या आप हमें यह बताने में सक्षम हैं कि एआई कंपनियों सहित हितधारकों को जारी किए गए कोड के लिए जिम्मेदार ठहराने के महत्व पर आपके विचार क्या हैं?

अब तक, उदाहरण के लिए, टेम्पे, एएजेड में स्व-ड्राइविंग कार दुर्घटना में, जिसमें एक पैदल यात्री की मौत हो गई, ऑपरेटर को जिम्मेदार ठहराया गया। एक व्यक्ति जेल गया। अंततः, हालांकि, यह एक संगठनात्मक विफलता थी।

जब एक पुल ढह जाता है, तो यांत्रिक इंजीनियर को जिम्मेदार ठहराया जाता है। यह इसलिए है क्योंकि यांत्रिक इंजीनियर प्रशिक्षित हैं, निरंतर प्रशिक्षित हैं, और अपने पेशे द्वारा जवाबदेह ठहराया जाता है। कंप्यूटर इंजीनियर नहीं हैं।

क्या हितधारकों, जिनमें एआई कंपनियां भी शामिल हैं, को बेहतर निर्णय लेने और अधिक जिम्मेदारी लेने के लिए प्रशिक्षित और पुनः प्रशिक्षित किया जाना चाहिए?

द AI डिलेमा में यह बताया गया है कि कंपनियां जैसे Google (GOOGL ) और Meta हमारे व्यक्तिगत डेटा को कैसे हार्वेस्ट और मोनेटाइज कर सकती हैं। क्या आप हमारे पाठकों के लिए एक उदाहरण साझा कर सकते हैं जो हमारे व्यक्तिगत डेटा के दुरुपयोग का एक महत्वपूर्ण उदाहरण है जिस पर ध्यान देने की आवश्यकता है?

द AI डिलेमा से, पेज 67ff:

व्यक्तिगत डेटा के दुरुपयोग के नए मामले सार्वजनिक दृष्टिकोण में आते रहते हैं, जिनमें से अधिकांश में चेहरे की पहचान का गुप्त उपयोग शामिल है। दिसंबर 2022 में, एमआईटी टेक्नोलॉजी रिव्यू ने आईरोबोट घरेलू रोबोटों की एक लंबे समय से चली आ रही प्रथा के बारे में खातों को प्रकाशित किया। रूम्बा घरेलू रोबोट बीटा-परीक्षणकर्ताओं के घरों में ली गई छवियों और वीडियो को रिकॉर्ड करते हैं, जो अनिवार्य रूप से व्यक्तिगत और पारिवारिक संबंधित छवियों को इकट्ठा करने का अर्थ है। ये बिना परीक्षणकर्ताओं की जानकारी के देश से बाहर के समूहों के साथ साझा किए जाते हैं। कम से कम एक मामले में, एक व्यक्ति की एक तस्वीर शौचालय पर पोस्ट की गई थी। जबकि ईरान में, अधिकारियों ने महिलाओं को गिरफ्तार करने के लिए चेहरे की पहचान प्रणाली से डेटा का उपयोग शुरू कर दिया है जो हिजाब नहीं पहनती हैं।16

इन कहानियों को और आगे बढ़ाने की जरूरत नहीं है। ऐसी बहुत सारी कहानियां हैं। हालांकि, यह महत्वपूर्ण है कि हम इस तरह से जीने के संचयी प्रभाव की पहचान करें। जब हमें लगता है कि हमारी निजी जानकारी का उपयोग किसी भी समय, बिना किसी चेतावनी के हमारे खिलाफ किया जा सकता है, तो हम अपने जीवन पर नियंत्रण रखने की भावना खो देते हैं।

एक खतरनाक अवधारणा जो उठाई गई है वह यह है कि हमारा पूरा विश्व एक घर्षण रहित अनुभव के लिए डिज़ाइन किया गया है, जहां घर्षण की परिभाषा “ग्राहक की यात्रा में किसी भी बिंदु पर है जहां वे एक रुकावट का सामना करते हैं जो उन्हें धीमा करता है या असंतुष्ट करता है।” घर्षण रहित अनुभव की हमारी अपेक्षा कैसे खतरनाक एआई की ओर ले जा सकती है?

न्यूजीलैंड में, एक पाक’न’Save स्मार्ट मील बॉट ने एक नुस्खा सुझाया जो उपयोग किए जाने पर क्लोरीन गैस बना देगा। इसे ग्राहकों के लिए अपने बचे हुए भोजन का उपयोग करने और पैसे बचाने के तरीके के रूप में बढ़ावा दिया गया था।

घर्षण रहित अनुभव एक नियंत्रण का भ्रम पैदा करता है। यह ऐप को सुनने के लिए तेज़ और आसान है बजाय इसके कि दादी की रेसिपी देखें। लोग प्रतिरोध के पथ का अनुसरण करते हैं और महसूस नहीं करते कि यह उन्हें कहां ले जा रहा है।

घर्षण, इसके विपरीत, रचनात्मक है। आप शामिल हो जाते हैं। इससे वास्तविक नियंत्रण मिलता है। वास्तविक नियंत्रण के लिए ध्यान और काम की आवश्यकता होती है, और – एआई के मामले में – एक विस्तारित लागत-लाभ विश्लेषण करना।

नियंत्रण का भ्रम होने के साथ, यह लगता है कि हम एक दुनिया में रहते हैं जहां एआई प्रणाली मानव को प्रेरित कर रही हैं, बजाय इसके कि मानव पूरी तरह से नियंत्रण में हैं। क्या आप हमें कुछ उदाहरण दे सकते हैं जिनमें मानव एकत्रित रूप से मानते हैं कि वे नियंत्रण में हैं, जबकि वास्तव में उनका कोई नियंत्रण नहीं है?

सैन फ्रांसिस्को में, अभी रोबोटैक्सी के साथ। स्व-ड्राइविंग टैक्सी का विचार दो विरोधाभासी भावनाओं को उत्तेजित करता है: उत्साह (“टैक्सी बहुत कम लागत पर!”) और डर (“क्या वे मुझे मारेंगे?”)। इसलिए, कई नियामक सुझाव देते हैं कि कारों को लोगों के साथ परीक्षण किया जाए जो नियंत्रण का प्रबंधन कर सकते हैं। दुर्भाग्य से, एआई प्रणालियों के साथ वास्तविक समय में हस्तक्षेप करने के लिए तैयार मानव ऑपरेटरों के साथ परीक्षण करना सार्वजनिक सुरक्षा का एक अच्छा परीक्षण नहीं हो सकता है। एआई प्रणालियों के साथ अधिक स्वचालित प्रणाली के साथ, मानव ऑपरेटर उन पर अधिक विश्वास करते हैं और पूरा ध्यान नहीं देते हैं। हम इन प्रौद्योगिकियों की देखभाल करते हुए ऊब जाते हैं। जब एक दुर्घटना वास्तव में होने वाली होती है, तो हम इसकी अपेक्षा नहीं करते हैं और अक्सर समय पर प्रतिक्रिया नहीं देते हैं।

क्या आपको लगता है कि इस पुस्तक में कुछ ऐसा है जो आपको आश्चर्यचकित करता है?

एक बात जो वास्तव में हमें आश्चर्यचकित करती है कि दुनिया भर के लोग द मोरल मशीन के सिमुलेशन में एक स्व-ड्राइविंग कार दुर्घटना में कौन जीवित रहेगा और कौन मरेगा, इस पर सहमत नहीं हो सकते। यदि हम इस पर सहमत नहीं हो सकते हैं, तो यह कल्पना करना मुश्किल है कि हम एआई प्रणालियों के लिए एकीकृत वैश्विक शासन या सार्वभौमिक मानकों का आनंद ले सकते हैं।

आप दोनों को उद्यमी के रूप में वर्णित किया जाता है, आपके द्वारा सीखे गए और रिपोर्ट किए गए ज्ञान का आपके भविष्य के प्रयासों पर क्या प्रभाव पड़ेगा?

हमारी एआई सलाहकार प्रैक्टिस जिम्मेदारी से प्रौद्योगिकी के साथ संगठनों की मदद करने के लिए उन्मुख है। वकील, इंजीनियर, सामाजिक वैज्ञानिक और व्यवसायिक विचारक एआई के भविष्य में हितधारक हैं। हम अपने काम में, इन सभी दृष्टिकोणों को एक साथ लाते हैं और बेहतर समाधान खोजने के लिए रचनात्मक घर्षण का अभ्यास करते हैं। हमने जोखिम के गणित जैसे फ्रेमवर्क विकसित किए हैं ताकि इन मुद्दों को नेविगेट करने में मदद मिल सके।

धन्यवाद महान उत्तरों के लिए, पाठक जो और अधिक सीखना चाहते हैं उन्हें द AI डिलेमा पर जाना चाहिए।