स्टार्टअप्स एआई और एथिकल एआई उपयोग की निगरानी के लिए टूल्स बना रहे हैं

पिछले एक साल में, ऐसा लगता है कि एआई का उपयोग नैतिक तरीके से करने के लिए अधिक से अधिक ध्यान दिया जा रहा है। गूगल और माइक्रोसॉफ्ट ने हाल ही में निवेशकों को चेतावनी दी है कि एआई एल्गोरिदम का दुरुपयोग या खराब डिज़ाइन किए गए एआई एल्गोरिदम नैतिक और कानूनी जोखिम प्रस्तुत करते हैं। इस बीच, कैलिफोर्निया राज्य ने हाल ही में एक बिल पारित किया है जो कैलिफोर्निया के कानून प्रवर्तन एजेंसियों द्वारा चेहरा पहचान प्रौद्योगिकी के उपयोग पर प्रतिबंध लगाता है।

(GOOGL ) (MSFT )

हाल ही में, आर्थर जैसे स्टार्टअप्स एआई इंजीनियरों को अपने मशीन लर्निंग मॉडल के प्रदर्शन को मापने और मूल्यांकन करने में मदद करने के लिए टूल्स डिज़ाइन करने का प्रयास कर रहे हैं। वायर्ड द्वारा रिपोर्ट के अनुसार, आर्थर एआई डेवलपर्स को एक टूलकिट देने का प्रयास कर रहा है जो उन्हें वित्तीय अनुप्रयोगों के डिज़ाइन में समस्याओं का पता लगाने में मदद करेगा, जैसे कि निवेश या उधार निर्णयों में पूर्वाग्रह का पता लगाना।

आर्थर के प्रयास एआई की “ब्लैक बॉक्स” समस्या को संबोधित करने के लिए हैं। एआई में ब्लैक बॉक्स समस्या बताती है कि पारंपरिक कोड के विपरीत, जिसे उन लोगों द्वारा आसानी से व्याख्या की जा सकती है जो इसे पढ़ना जानते हैं, मशीन लर्निंग सिस्टम विशेषताओं को व्यवहार से मैप करते हैं बिना यह बताए कि इन व्यवहारों का चयन क्यों किया गया है/विशेषताओं की व्याख्या कैसे की गई है। दूसरे शब्दों में, एक ब्लैक बॉक्स सिस्टम में एल्गोरिदम का सटीक कार्यान्वयन अपारदर्शी होता है।

मशीन लर्निंग सिस्टम इनपुट डेटा से पैटर्न निकालते हैं और इन पैटर्न के बारे में तर्क करते हैं। यह मूल रूप से एक कंप्यूटर द्वारा अपना खुद का कोड लिखने के द्वारा किया जाता है जो कertain गणितीय फ़ंक्शन को मैनिपुलेट करता है। इस समस्या को संबोधित करने के लिए, शोधकर्ताओं और इंजीनियरों को मशीन लर्निंग सॉफ़्टवेयर व्यवहार के अवलोकन और विश्लेषण को आसान बनाने वाले टूल्स की आवश्यकता है। आर्थर जैसे स्टार्टअप्स इस समस्या को हल करने में कठिनाई को स्वीकार करते हैं और दावा नहीं करते हैं कि उनके पास ऑप्टिमल समाधान हैं, लेकिन वे इस क्षेत्र में प्रगति करने और ब्लैक बॉक्स को खोलने में थोड़ा आसान बनाने की उम्मीद करते हैं। इसकी आशा की जाती है कि यदि एआई सिस्टम का विश्लेषण करना आसान हो जाए, तो पूर्वाग्रह जैसी समस्याओं को ठीक करना भी आसान हो जाएगा।

फेसबुक जैसी बड़ी कंपनियों के पास पहले से ही मशीन लर्निंग सिस्टम के आंतरिक कार्यों का विश्लेषण करने के लिए कुछ टूल्स हैं। उदाहरण के लिए, फेसबुक के पास फेयरनेस फ्लो नामक एक टूल है जो सुनिश्चित करता है कि नौकरी की सिफारिश करने वाले विज्ञापन विभिन्न पृष्ठभूमि के लोगों को लक्षित करते हैं। हालांकि, यह संभावना है कि बड़े एआई टीमें ऐसे टूल्स बनाने में समय निवेश नहीं करना चाहेंगी, और इसलिए एआई कंपनियों द्वारा उपयोग के लिए निगरानी टूल्स बनाने वाली कंपनियों के लिए एक व्यवसायिक अवसर है।

आर्थर उन कंपनियों को सक्षम करने के लिए टूल्स बनाने पर केंद्रित है जो अपने एआई सिस्टम को पहले से ही तैनात करने के बाद बेहतर ढंग से बनाए रखें और निगरानी करें। आर्थर के टूल्स कंपनियों को यह देखने की अनुमति देने के लिए हैं कि उनके सिस्टम का प्रदर्शन समय के साथ कैसे बदलता है, जो सैद्धांतिक रूप से कंपनियों को संभावित पूर्वाग्रह के प्रकटीकरण पर ध्यान देने की अनुमति देगा। यदि कोई कंपनी का ऋण सिफारिश सॉफ़्टवेयर कुछ ग्राहक समूहों को बाहर करना शुरू कर देता है, तो एक फ्लैग सेट किया जा सकता है जो इंगित करता है कि सिस्टम की समीक्षा करने की आवश्यकता है ताकि यह सुनिश्चित किया जा सके कि यह संवेदनशील विशेषताओं जैसे कि नस्ल या लिंग के आधार पर ग्राहकों के खिलाफ भेदभाव नहीं कर रहा है।

हालांकि, आर्थर एकमात्र कंपनी नहीं है जो अपने एल्गोरिदम के प्रदर्शन की समीक्षा करने के लिए एआई कंपनियों को टूल्स देने का प्रयास कर रही है। कई स्टार्टअप्स पूर्वाग्रह से लड़ने और सुनिश्चित करने के लिए टूल्स बनाने में निवेश कर रहे हैं कि एआई एल्गोरिदम का उपयोग नैतिक तरीके से किया जा रहा है। वेट्स एंड बायस एक और स्टार्टअप है जो मशीन लर्निंग इंजीनियरों को संभावित समस्याओं का विश्लेषण करने में मदद करने के लिए टूल्स बना रहा है। टोयोटा ने अपने मशीन लर्निंग डिवाइसों को प्रशिक्षित करते समय वेट्स एंड बायस द्वारा बनाए गए टूल्स का उपयोग किया है। इस बीच, फिडलर नामक स्टार्टअप एक अलग सेट của एआई निगरानी टूल्स बनाने पर काम कर रहा है। आईबीएम ने भी अपनी खुद की निगरानी सेवा ओपनस्केल बनाई है।

लिज़ ओ’सुलिवन, आर्थर के सह-संस्थापकों में से एक, ने बताया कि ब्लैक बॉक्स समस्या को हल करने में मदद करने के लिए टूल्स बनाने में रुचि एआई की शक्ति के बारे में बढ़ती जागरूकता से प्रेरित है।

“लोग यह महसूस करना शुरू कर रहे हैं कि ये सिस्टम कितने शक्तिशाली हो सकते हैं, और उन्हें जिम्मेदारी से लाभ उठाने की आवश्यकता है,” ओ’सुलिवन ने कहा।