विचार नेता
शहरों में निष्पक्ष एआई एल्गोरिदम का उपयोग करके अग्रणी प्रौद्योगिकियों का तैनाती कैसे की जा रही है
Unite.AI को Google पर अपने पसंदीदा स्रोतों में जोड़ें
आज, हमारे जीवन के लगभग हर पहलू में ऑनलाइन नेटवर्क का कुछ हिस्सा शामिल है। जबकि इससे जीवन के कई क्षेत्रों में सुधार हुआ है, जैसे कि हम हाथ में डिवाइस लेकर चलते हैं जो हमें कभी भी जानकारी दे सकते हैं, यह कुछ जोखिम भी पैदा करता है।
इन जोखिमों में पारंपरिक हैकिंग और डेटा उल्लंघन शामिल नहीं हैं जो हमारे बैंक खातों में हो सकते हैं। मैं यहाँ जो बात कह रहा हूँ, वह यह है कि हमारे जीवन के इतने सारे हिस्से आज आर्टिफ़िशियल इंटेलिजेंस (एआई) द्वारा उपयोग किए जाने वाले एल्गोरिदम से प्रभावित होते हैं। हम मानते हैं कि यह एआई स्वाभाविक रूप से हमारे हित में एल्गोरिदम का उपयोग करता है। लेकिन जब गलत प्रकार का पूर्वाग्रह इन एल्गोरिदम में प्रवेश करता है, तो क्या होता है? यह कुछ परिणामों को कैसे प्रभावित कर सकता है?
जब पूर्वाग्रहपूर्ण एल्गोरिदम एआई सिस्टम में प्रवेश करते हैं तो क्या होता है?
एक और उदाहरण के लिए, यूट्यूब पर, एक एआई एल्गोरिदम लगभग 70% सभी वीडियो की सिफारिश करता है, और सोशल मीडिया प्लेटफ़ॉर्म जैसे इंस्टाग्राम और टिकटॉक पर, यह प्रतिशत और भी अधिक है। हालाँकि ये एआई एल्गोरिदम उपयोगकर्ताओं को उनकी रुचि के अनुसार सामग्री खोजने में मदद कर सकते हैं, वे गंभीर गोपनीयता समस्याएं उठाते हैं, और बढ़ते प्रमाण हैं कि ऑनलाइन उपभोग की जाने वाली कुछ सिफारिशित सामग्री खतरनाक हो सकती है क्योंकि इसमें गलत सूचना हो सकती है या शायद एक विशिष्ट दृष्टिकोण हो सकता है जो एक व्यक्ति की राजनीतिक सोच या विश्वासों को प्रभावित करने के लिए डिज़ाइन किया गया है।
एक अच्छी तरह से गोल और अनुकूलनीय एआई बनाना एक चुनौतीपूर्ण तकनीकी और सामाजिक प्रयास है, लेकिन यह सबसे महत्वपूर्ण है।
यह समझना समझ में आता है कि एआई सामाजिक मानदंडों और ऑनलाइन उपयोग पैटर्न पर नकारात्मक प्रभाव डाल सकता है, जबकि प्रौद्योगिकी के सकारात्मक प्रभावों पर भी ध्यान केंद्रित करता है। ऑनलाइन स्रोतों का हमारे समाज पर महत्वपूर्ण प्रभाव पड़ता है, और ऑनलाइन एल्गोरिदम में पूर्वाग्रह अनजाने में अन्याय को बढ़ावा देगा, लोगों के विश्वासों को आकार देगा, गलत सूचना फैलाएगा, और विभिन्न समूहों के बीच संघर्ष पैदा करेगा।
यह वह जगह है जहां “खराब एआई” वास्तव में महत्वपूर्ण परिणाम हो सकता है क्योंकि यह अवांछित और / या अनुचित पूर्वाग्रह से संबंधित है।
पूर्वाग्रहपूर्ण एआई यातायात चौराहों को कैसे प्रभावित कर सकता है
एक और वास्तविक दुनिया के उदाहरण के लिए, यातायात चौराहे लें। यातायात संकेतों पर लंबे समय तक प्रतीक्षा करना नए एआई प्रौद्योगिकियों के कारण देश भर के बाजारों में तैनात किए जा रहे हैं जो यातायात पैटर्न में बदलाव के लिए अनुकूलन करते हैं, यातायात को बढ़ावा देते हैं और भीड़भाड़ को कम करते हैं।
सिस्टम गहरे शिक्षण का उपयोग करते हैं, जहां एक कार्यक्रम समझता है कि जब यह अच्छा प्रदर्शन नहीं कर रहा है तो यह एक अलग कार्रवाई करने का प्रयास करता है – या जब यह प्रगति करता है तो सुधार करना जारी रखता है।
यह एक अच्छा विचार लगता है, है ना? लेकिन अगर, समय के साथ, यातायात सेंसर प्रौद्योगिकी में निहित एआई एल्गोरिदम अन्य वाहनों की तुलना में अधिक महंगे वाहनों को प्राथमिकता देना शुरू कर देते हैं, तो पूर्वाग्रहपूर्ण एल्गोरिदम के कारण जो यह मान्यता प्राप्त करते हैं कि कुछ प्रकार के वाहन चलाने वाले लोग दूसरों की तुलना में प्राथमिकता के पात्र हैं?
यह वह जगह है जहां “खराब एआई” हमारे जीवन के एक बहुत ही महत्वपूर्ण हिस्से को प्रभावित कर सकता है।
आइए एक उदाहरण के रूप में इन एआई-संचालित ट्रांजिट प्राथमिकता प्रणालियों को लें जो एक बड़े बुद्धिमान परिवहन प्रणाली (आईटीएस) का हिस्सा हैं जो जुड़े हुए वाहन प्रौद्योगिकियों की शक्ति का लाभ उठाती हैं। आईटीएस प्रणालियां तब तक अच्छी हैं जब तक कि वे काम करने वाले एग्नोस्टिक क्लाउड-आधारित डेटा-शेयरिंग प्लेटफ़ॉर्म पर निर्भर करती हैं, और वे सभी समान नहीं बनाए जाते हैं।
एआई एल्गोरिदम में पूर्वाग्रह को समाप्त करना
इन डेटा-शेयरिंग प्लेटफ़ॉर्म को बहुत प्रभावी साबित किया गया है, लेकिन केवल तभी जब शहर और नगर पालिकाएं परिवहन प्रणालियों की देखरेख करती हैं और उन्हें उचित डेटा साझा करने के लिए खोलती हैं जहां पूर्वाग्रहपूर्ण एल्गोरिदम भाग नहीं ले सकते हैं। दुर्भाग्य से, कई नगर पालिकाएं अभी भी हार्डवेयर और डिवाइस प्रदाताओं के साथ अनुबंधों में बंद हैं जो “खुले आर्किटेक्चर” के तहत काम करने का दावा करते हैं लेकिन खुले डेटा प्लेटफ़ॉर्म के तहत काम करने के लिए तैयार नहीं हैं, और ये शहर खुद को वास्तविक संभावनाओं से वंचित करते हैं जो एक क्लाउड-आधारित प्लेटफ़ॉर्म प्रदान कर सकता है।
क्लाउड-आधारित ट्रांजिट प्राथमिकता प्रणाली प्रणाली की वैश्विक तस्वीर पर विचार करती है और निष्पक्ष डेटा-केंद्रित मशीन लर्निंग का उपयोग करती है ताकि यह अनुमान लगाया जा सके कि ट्रांजिट वाहनों को हरी बत्ती देने का इष्टतम समय कब है। यह क्रॉसिंग मार्गों के साथ हस्तक्षेप को कम करता है और एक ही समय में निरंतर ड्राइव की संभावना को अधिकतम करता है। अधिक महत्वपूर्ण बात यह है कि एग्नोस्टिक क्लाउड-आधारित प्लेटफ़ॉर्म यह सुनिश्चित करता है कि शहर निष्पक्ष रूप से अधिकतम ट्रांजिट संभावना के लिए एक निरंतर अद्यतन प्रणाली का लाभ उठाते हैं, बिना अवांछित स्रोतों से पूर्वाग्रह के।
अब यह प्रौद्योगिकी आसानी से उपलब्ध है, शहर, डेवलपर और नगर पालिकाओं के पास बुद्धिमान परिवहन नेटवर्क के निर्माण को तेजी से आगे बढ़ाने के लिए प्रौद्योगिकी है जो क्षेत्र में हर किसी को न्यायसंगत और समान रूप से लाभान्वित करता है।
सैन जोसे जैसे क्षेत्र अब अपने निवासियों को सेवाओं की डिलीवरी में सुधार के लिए एआई के लाभों का लाभ उठा रहे हैं। जैसे ही शहर एआई टूल्स का अधिक से अधिक उपयोग करता है, यह सुनिश्चित करना और भी महत्वपूर्ण हो जाता है कि वे एआई सिस्टम प्रभावी और विश्वसनीय हैं। डिजिटल गोपनीयता कार्यालय (डीपीओ) द्वारा उपयोग किए जाने वाले एल्गोरिदम की समीक्षा करके, शहर की एआई-संचालित प्रौद्योगिकी अधिग्रहण सटीक रूप से प्रदर्शन करती है, पूर्वाग्रह को कम करती है और विश्वसनीय है। जब एक शहर विभाग एक एआई टूल खरीदना चाहता है, तो डीपीओ विशिष्ट समीक्षा प्रक्रियाओं का पालन करता है ताकि किसी भी एआई सिस्टम के लाभों और जोखिमों का मूल्यांकन किया जा सके।
इस विशेष क्षेत्र के लिए, हम गूगल जैसी कंपनियों के साथ शहर-व्यापी प्रौद्योगिकी तैनाती में भाग लेने वाले कुछ चुनिंदा अनुमोदित एआई विक्रेताओं में से एक होने पर गर्व महसूस करते हैं क्योंकि उनमें निष्पक्ष एल्गोरिदम हैं। जैसे ही अधिक एआई प्रौद्योगिकियां विकसित की जाती हैं, यह सुनिश्चित करना और भी महत्वपूर्ण होगा कि वे निष्पक्ष और न्यायसंगत स्थानीय नगरपालिका सेवाओं के लाभ के लिए निष्पक्ष एल्गोरिदम के साथ बनाई जाती हैं।
