कृत्रिम बुद्धिमत्ता विशिष्ट अवांछित व्यवहार से बचने के लिए नए एल्गोरिदम का उपयोग कर सकती है

क्योंकि कृत्रिम बुद्धिमत्ता एल्गोरिदम और प्रणालियाँ अधिक परिष्कृत होती जा रही हैं और बड़ी जिम्मेदारियाँ ले रही हैं, यह सुनिश्चित करना अधिक से अधिक महत्वपूर्ण हो जाता है कि कृत्रिम बुद्धिमत्ता प्रणालियाँ खतरनाक, अवांछित व्यवहार से बचें। हाल ही में मैसाचुसेट्स अमहर्स्ट विश्वविद्यालय और स्टैनफोर्ड के शोधकर्ताओं की एक टीम ने एक पेपर प्रकाशित किया है जो दिखाता है कि विशिष्ट कृत्रिम बुद्धिमत्ता व्यवहार को कैसे टाला जा सकता है, एक तकनीक का उपयोग करके जो सटीक गणितीय निर्देश देती है जो कृत्रिम बुद्धिमत्ता के व्यवहार को बदलने के लिए उपयोग की जा सकती है।

टेकएक्सप्लोर के अनुसार, शोध इस धारणा पर आधारित था कि अन्यायपूर्ण/असुरक्षित व्यवहार गणितीय कार्यों और चरों के साथ परिभाषित किया जा सकता है। यदि यह सच है तो यह संभव होना चाहिए कि शोधकर्ता प्रणालियों को प्रशिक्षित करें जो इन विशिष्ट व्यवहारों से बचें। शोध टीम ने एक टूलकिट विकसित करने का लक्ष्य रखा जिसे कृत्रिम बुद्धिमत्ता के उपयोगकर्ता द्वारा उपयोग किया जा सकता है ताकि यह निर्दिष्ट किया जा सके कि वे कृत्रिम बुद्धिमत्ता से किन व्यवहारों से बचना चाहते हैं, और कृत्रिम बुद्धिमत्ता इंजीनियरों को विश्वसनीय रूप से प्रशिक्षित करने में सक्षम बनाने के लिए एक प्रणाली जो वास्तविक दुनिया के दृश्यों में अवांछित क्रियाओं से बचेगी।

फिलिप थॉमस, पेपर के पहले लेखक और मिशिगन अमहर्स्ट में सहायक कंप्यूटर विज्ञान प्रोफेसर, ने समझाया कि शोध टीम यह प्रदर्शित करना चाहती है कि मशीन लर्निंग एल्गोरिदम के डिजाइनर अवांछित व्यवहारों का वर्णन करना और यह सुनिश्चित करना आसान बना सकते हैं कि कृत्रिम बुद्धिमत्ता प्रणाली व्यवहार से बचें।

शोध टीम ने अपनी तकनीक का परीक्षण एक सामान्य समस्या पर किया, लिंग पूर्वाग्रह। शोध टीम ने एल्गोरिदम को न्यायसंगत बनाने का लक्ष्य रखा जो कॉलेज के छात्रों के जीपीए की भविष्यवाणी करते हैं लिंग पूर्वाग्रह को कम करके। शोध टीम ने एक प्रयोगात्मक डेटासेट का उपयोग किया और अपनी कृत्रिम बुद्धिमत्ता प्रणाली को निर्देश दिया कि वह ऐसे मॉडल बनाने से बचे जो एक लिंग के लिए जीपीए को कम आंकते हैं या अधिक आंकते हैं। शोधकर्ताओं के निर्देशों के परिणामस्वरूप, एल्गोरिदम ने एक मॉडल बनाया जो छात्रों के जीपीए की बेहतर भविष्यवाणी करता है और पहले से मौजूद मॉडलों की तुलना में काफी कम लिंग पूर्वाग्रह है।

शोध टीम ने एक अलग एल्गोरिदम भी विकसित किया। इस एल्गोरिदम को एक स्वचालित इंसुलिन पंप में लागू किया गया था, और एल्गोरिदम का उद्देश्य प्रदर्शन और सुरक्षा के बीच संतुलन बनाना था। स्वचालित इंसुलिन पंप को यह तय करना होता है कि एक मरीज़ को कितना इंसुलिन दिया जाना चाहिए। खाने के बाद, पंप को आदर्श रूप से इतना इंसुलिन देना चाहिए कि रक्त शर्करा के स्तर को नियंत्रित किया जा सके। दी जाने वाली इंसुलिन की खुराक न तो बहुत बड़ी होनी चाहिए और न ही बहुत छोटी।

मशीन लर्निंग एल्गोरिदम पहले से ही व्यक्ति के इंसुलिन खुराक के प्रति प्रतिक्रिया के पैटर्न की पहचान करने में कुशल हैं, लेकिन मौजूदा विश्लेषण विधियाँ डॉक्टरों को परिणामों को निर्दिष्ट करने की अनुमति नहीं देती हैं जिनसे बचना चाहिए, जैसे कि रक्त शर्करा के स्तर में गिरावट। इसके विपरीत, शोध टीम एक ऐसी विधि विकसित करने में सक्षम थी जिसे प्रशिक्षित किया जा सकता है ताकि इंसुलिन की खुराक दी जा सके जो दोनों चरम सीमाओं के बीच रहे। जबकि प्रणाली अभी तक वास्तविक रोगियों पर परीक्षण के लिए तैयार नहीं है, एक अधिक परिष्कृत कृत्रिम बुद्धिमत्ता इस दृष्टिकोण पर आधारित हो सकती है जो मधुमेह से पीड़ित लोगों के जीवन की गुणवत्ता में सुधार कर सकती है।

शोध पत्र में, शोधकर्ता एल्गोरिदम को “सेलेडोनियन” एल्गोरिदम के रूप में संदर्भित करते हैं। यह विज्ञान कथा लेखक आइज़क असिमोव द्वारा वर्णित रोबोटिक्स के तीन नियमों का संदर्भ है। इसका अर्थ है कि कृत्रिम बुद्धिमत्ता प्रणाली “किसी मानव को चोट नहीं पहुँचा सकती है या निष्क्रियता के माध्यम से किसी मानव को नुकसान होने देती है।” शोध टीम को उम्मीद है कि उनका फ्रेमवर्क कृत्रिम बुद्धिमत्ता शोधकर्ताओं और इंजीनियरों को खतरनाक व्यवहार से बचने वाले एल्गोरिदम और प्रणालियों की एक श्रृंखला बनाने में सक्षम बनाएगा। स्टैनफोर्ड के कंप्यूटर विज्ञान के सहायक प्रोफेसर और पेपर के वरिष्ठ लेखक एम्मा ब्रुनस्किल ने टेकएक्सप्लोर को बताया:

“हम मानव उपयोगकर्ताओं के मूल्यों का सम्मान करने वाली कृत्रिम बुद्धिमत्ता को आगे बढ़ाना चाहते हैं और स्वायत्त प्रणालियों में हमारे द्वारा रखे गए विश्वास को सही ठहराते हैं।”