स्टार्टअप्स एआई की निगरानी करने और नैतिक एआई उपयोग को बढ़ावा देने के लिए उपकरण बना रहे हैं

पिछले एक साल के दौरान, ऐसा लगता है कि एआई का उपयोग नैतिक तरीके से सुनिश्चित करने के लिए अधिक से अधिक ध्यान दिया जा रहा है। गूगल और माइक्रोसॉफ्ट दोनों ने हाल ही में निवेशकों को चेतावनी दी है कि एआई एल्गोरिदम का दुरुपयोग या खराब डिज़ाइन किए गए एआई एल्गोरिदम नैतिक और कानूनी जोखिम प्रस्तुत करते हैं। इस बीच, कैलिफोर्निया राज्य ने अभी तक एक बिल पारित किया है जो कैलिफोर्निया के कानून प्रवर्तन एजेंसियों द्वारा चेहरे की पहचान प्रौद्योगिकी के उपयोग पर प्रतिबंध लगाता है।

हाल ही में, आर्थर जैसे स्टार्टअप एआई इंजीनियरों को उनके मशीन लर्निंग मॉडल के प्रदर्शन को मात्रा और गुणवत्ता में मदद करने के लिए उपकरण डिज़ाइन करने का प्रयास कर रहे हैं। वायर्ड द्वारा रिपोर्ट के अनुसार, आर्थर एआई डेवलपर्स को एक टूलकिट देने की कोशिश कर रहा है जो उन्हें वित्तीय अनुप्रयोगों के डिज़ाइन में समस्याओं का पता लगाने में मदद करेगा, जैसे कि निवेश या ऋण निर्णयों में पूर्वाग्रह का पर्दाफाश करना।

आर्थर के प्रयास एआई की “ब्लैक बॉक्स” समस्या को संबोधित करने के लिए हैं। एआई में ब्लैक बॉक्स समस्या यह वर्णन करती है कि कैसे पारंपरिक कोड के विपरीत, जिसे उन लोगों द्वारा आसानी से व्याख्या की जा सकती है जो इसे पढ़ना जानते हैं, मशीन लर्निंग सिस्टम विशेषताओं को व्यवहार से मैप करते हैं बिना यह बताए कि इन व्यवहारों को क्यों चुना गया है/विशेषताओं की व्याख्या कैसे की गई है। दूसरे शब्दों में, एक ब्लैक बॉक्स सिस्टम में एल्गोरिदम का सटीक कार्यान्वयन अपारदर्शी होता है।

मशीन लर्निंग सिस्टम इनपुट डेटा से पैटर्न निकालने और इन पैटर्न के बारे में तर्क करने के द्वारा काम करते हैं। यह मूल रूप से एक कंप्यूटर द्वारा अपना खुद का कोड लिखने के द्वारा किया जाता है कertain गणितीय फ़ंक्शन को मैनिपुलेट करके। इस समस्या को संबोधित करने के लिए, शोधकर्ताओं और इंजीनियरों को मशीन लर्निंग सॉफ़्टवेयर व्यवहार के अवलोकन और विश्लेषण को आसान बनाने वाले उपकरणों की आवश्यकता है। आर्थर जैसे स्टार्टअप्स इस समस्या को हल करने में कठिनाई को स्वीकार करते हैं और दावा नहीं करते हैं कि उनके पास ऑप्टिमल समाधान हैं, लेकिन वे इस क्षेत्र में प्रगति करने और ब्लैक बॉक्स को खोलने में थोड़ा आसान बनाने की उम्मीद करते हैं। इसकी आशा की जाती है कि यदि एआई सिस्टम का विश्लेषण करना आसान हो जाता है, तो पूर्वाग्रह जैसी समस्याओं को ठीक करना भी आसान हो जाएगा।

फेसबुक जैसी बड़ी कंपनियों के पास पहले से ही मशीन लर्निंग सिस्टम के आंतरिक कामकाज का विश्लेषण करने के लिए कुछ उपकरण हैं। उदाहरण के लिए, फेसबुक के पास एक टूल है जिसे फेयरनेस फ्लो कहा जाता है, जिसका उद्देश्य यह सुनिश्चित करना है कि नौकरी की सिफारिश करने वाले विज्ञापन विभिन्न पृष्ठभूमि के लोगों को लक्षित करते हैं। हालांकि, यह संभावना है कि बड़े एआई टीमें ऐसे उपकरण बनाने में समय नहीं लगाना चाहेंगी, और इसलिए एआई कंपनियों द्वारा उपयोग के लिए निगरानी उपकरण बनाने वाली कंपनियों के लिए एक व्यवसायिक अवसर है।

आर्थर उन उपकरणों को बनाने पर केंद्रित है जो कंपनियों को एआई सिस्टम को तैनात करने के बाद बेहतर ढंग से बनाए रखने और निगरानी करने में मदद करते हैं। आर्थर के उपकरण कंपनियों को यह देखने में मदद करने के लिए हैं कि उनके सिस्टम का प्रदर्शन समय के साथ कैसे बदलता है, जो सिद्धांत रूप से कंपनियों को संभावित पूर्वाग्रह के प्रकटीकरण को उठाने देगा। यदि एक कंपनी का ऋण सिफारिश सॉफ़्टवेयर कुछ ग्राहक समूहों को बाहर करना शुरू कर देता है, तो एक फ्लैग सेट किया जा सकता है जो यह संकेत देता है कि सिस्टम की समीक्षा करने की आवश्यकता है ताकि यह सुनिश्चित किया जा सके कि यह संवेदनशील विशेषताओं जैसे कि जाति या लिंग के आधार पर ग्राहकों के साथ भेदभाव नहीं कर रहा है।

हालांकि, आर्थर एकमात्र कंपनी नहीं है जो अपने एल्गोरिदम के प्रदर्शन की समीक्षा करने के लिए एआई कंपनियों को उपकरण देने का काम कर रही है। कई स्टार्टअप्स पूर्वाग्रह से लड़ने और यह सुनिश्चित करने के लिए उपकरण बनाने में निवेश कर रहे हैं कि एआई एल्गोरिदम का उपयोग नैतिक रूप से किया जा रहा है। वेट्स एंड बायस एक और स्टार्टअप है जो मशीन लर्निंग इंजीनियरों को उनके नेटवर्क के साथ संभावित समस्याओं का विश्लेषण करने में मदद करने के लिए उपकरण बना रहा है। टोयोटा ने अपने मशीन लर्निंग डिवाइसों को प्रशिक्षित करते समय वेट्स एंड बायस द्वारा बनाए गए उपकरणों का उपयोग किया है। इस बीच, फिडलर नामक स्टार्टअप एक अलग सेट của एआई निगरानी उपकरण बनाने पर काम कर रहा है। आईबीएम ने अपनी खुद की निगरानी सेवा बनाई है जिसे ओपनस्केल कहा जाता है।

लिज़ ओ’सुलिवन, आर्थर के सह-संस्थापकों में से एक, ने समझाया कि ब्लैक बॉक्स समस्या का समाधान करने में मदद करने के लिए उपकरण बनाने में रुचि एआई की शक्ति के बारे में बढ़ती जागरूकता से驱्ष्ट है।

“लोग यह महसूस करना शुरू कर रहे हैं कि ये सिस्टम कितने शक्तिशाली हो सकते हैं, और उन्हें यह समझने की आवश्यकता है कि उन्हें लाभ का लाभ उठाने के लिए एक जिम्मेदार तरीके से इसका उपयोग करने की आवश्यकता है,” ओ’सुलिवन ने कहा।