शोधकर्ता एल्गोरिदम विकसित करते हैं जो कृत्रिम बुद्धिमत्ता में खराब व्यवहार को रोकने के लिए हैं

कृत्रिम बुद्धिमत्ता ने अब तक जो प्रगति और लाभ दिखाए हैं, वहीं इसके कुछ अप्रिय दुष्प्रभाव भी सामने आए हैं, जैसे कि कृत्रिम बुद्धिमत्ता में नस्लीय और लिंग भेदभाव। इसलिए, sciencealert.com पूछता है “वैज्ञानिक कैसे सुनिश्चित कर सकते हैं कि उन्नत सोच प्रणालियां न्यायसंगत और सुरक्षित हो सकती हैं?”

उत्तर स्टैनफोर्ड और मैसाचुसेट्स अमहर्स्ट विश्वविद्यालय के शोधकर्ताओं द्वारा प्रस्तुत रिपोर्ट में हो सकता है, जिसका शीर्षक है कृत्रिम बुद्धिमत्ता में अवांछनीय व्यवहार को रोकना। जैसा कि eurekaalert.org अपनी कहानी में बताता है, कृत्रिम बुद्धिमत्ता अब संवेदनशील कार्यों को संभालने लगी है, इसलिए “नीति निर्माता यह सुनिश्चित करने के लिए कंप्यूटर वैज्ञानिकों से आश्वस्त करने की मांग कर रहे हैं कि स्वचालित प्रणालियों को इस तरह से डिज़ाइन किया गया है कि वे अवांछनीय परिणामों को कम से कम करें या पूरी तरह से टालें।”

इस रिपोर्ट में प्रस्तुत किए गए शोध दल का उद्देश्य “एक नई तकनीक का वर्णन करना है जो एक अस्पष्ट लक्ष्य, जैसे कि लिंग भेदभाव से बचना, सटीक गणितीय मानदंडों में अनुवादित करता है जो एक मशीन लर्निंग एल्गोरिदम को प्रशिक्षित करने की अनुमति देता है ताकि यह व्यवहार से बच सके।”

उद्देश्य, जैसा कि स्टैनफोर्ड में कंप्यूटर विज्ञान की सहायक प्रोफेसर और पेपर की वरिष्ठ लेखिका एम्मा ब्रुनस्किल बताती हैं, “हम कृत्रिम बुद्धिमत्ता को आगे बढ़ाना चाहते हैं जो मानव उपयोगकर्ताओं के मूल्यों का सम्मान करती है और स्वायत्त प्रणालियों में हमारे विश्वास को सही ठहराती है।”

विचार यह था कि “असुरक्षित” या “अन्यायपूर्ण” परिणामों या व्यवहार को गणितीय शब्दों में परिभाषित किया जाए। यह, शोधकर्ताओं के अनुसार, “इस तरह के एल्गोरिदम बनाने की अनुमति देगा जो उच्च आत्मविश्वास के साथ इन अवांछनीय परिणामों से बचने के लिए डेटा से सीख सकते हैं।”

दूसरा लक्ष्य यह था कि “एक तकनीक विकसित की जाए जो उपयोगकर्ताओं को यह निर्दिष्ट करने में आसान बना दे कि वे किस प्रकार के अवांछनीय व्यवहार को प्रतिबंधित करना चाहते हैं और मशीन लर्निंग डिज़ाइनरों को यह भविष्यवाणी करने में सक्षम बनाएं कि एक प्रणाली जो पिछले डेटा का उपयोग करके प्रशिक्षित की गई है, वास्तविक दुनिया की परिस्थितियों में विश्वसनीय हो सकती है।”

साइंस अलर्ट के अनुसार, इस नए सिस्टम को इस टीम ने ‘सेल्डोनियन’ एल्गोरिदम नाम दिया है, जो आइज़क असिमोव की प्रसिद्ध विज्ञान-कथा श्रृंखला फाउंडेशन के केंद्रीय पात्र के नाम पर है। मैसाचुसेट्स अमहर्स्ट विश्वविद्यालय में कंप्यूटर विज्ञान के सहायक प्रोफेसर और पेपर के प्रथम लेखक फिलिप थॉमस कहते हैं, “मैं मधुमेह उपचार के लिए एक सेल्डोनियन एल्गोरिदम का उपयोग करता हूं, तो मैं यह निर्दिष्ट कर सकता हूं कि अवांछनीय व्यवहार का अर्थ खतरनाक रूप से कम रक्त शर्करा या हाइपोग्लाइसीमिया है।”

“मैं मशीन से कह सकता हूं, ‘जब आप इंसुलिन पंप में नियंत्रक में सुधार करने की कोशिश कर रहे हैं, तो हाइपोग्लाइसीमिया की आवृत्ति बढ़ाने वाले परिवर्तन न करें।’ अधिकांश एल्गोरिदम आपको इस प्रकार के प्रतिबंध लगाने का तरीका नहीं देते; यह शुरुआती डिज़ाइन में शामिल नहीं था।”

थॉमस कहते हैं कि “यह सेल्डोनियन फ्रेमवर्क मशीन लर्निंग डिज़ाइनरों को विभिन्न प्रकार के एल्गोरिदम में व्यवहार-विरोधी निर्देशों को शामिल करने में आसान बना देगा, जिससे उन्हें यह आकलन करने में सक्षम बनाया जा सकेगा कि प्रशिक्षित प्रणालियां वास्तविक दुनिया में ठीक से काम करेंगी।”

एम्मा ब्रुनस्किल के हिस्से के लिए, वह यह भी बताती हैं कि “सुरक्षा और न्याय जैसे मूल्यों का सम्मान करने वाले एल्गोरिदम बनाने के बारे में सोचना आवश्यक है क्योंकि समाज कृत्रिम बुद्धिमत्ता पर越 अधिक निर्भर हो रहा है।”