एआई इंसिडेंट डेटाबेस का उद्देश्य एआई अल्गोरिदम को सुरक्षित बनाना है

किसी भी पर्याप्त रूप से बड़े सिस्टम में त्रुटियाँ होंगी, और इन त्रुटियों को सुधारने का एक हिस्सा उनके प्रभावों और संभावित कारणों के लिए विश्लेषण किए जाने वाले एक डेटाबेस में उनका हिस्सा है। एफडीए द्वारा हानिकारक दवा प्रतिक्रियाओं के लिए एक डेटाबेस बनाए रखने के समान, या राष्ट्रीय परिवहन सुरक्षा बोर्ड द्वारा विमान दुर्घटनाओं के लिए एक डेटाबेस बनाए रखने के समान, एआई इंसिडेंट डेटाबेस एक डेटाबेस है जो एआई सिस्टम की विफलताओं को कैटलॉग करने और एआई शोधकर्ताओं को इन विफलताओं से बचने के नए तरीके इंजीनियर करने में मदद करने के लिए डिज़ाइन किया गया है। एआई इंसिडेंट डेटाबेस (एआईआईडी) के निर्माता आशा करते हैं कि यह एआई कंपनियों को सुरक्षित, अधिक नैतिक एआई विकसित करने में मदद करेगा।

एआईआईडी क्या है?

एआईआईडी पार्टनरशिप ऑन एआई (पीएआई) संगठन का उत्पाद है। पीएआई की स्थापना最初 2016 में बड़ी टेक कंपनियों जैसे फेसबुक, एप्पल, अमेज़ॅन, गूगल, आईबीएम और माइक्रोसॉफ्ट में एआई शोध टीमों के सदस्यों द्वारा की गई थी। तब से, संगठन ने कई अन्य संगठनों से सदस्यों की भर्ती की है, जिनमें विभिन्न गैर-लाभकारी संगठन शामिल हैं। 2018 में, पीएआई ने एआई विफलताओं के लिए एक सुसंगत वर्गीकरण मानक बनाने का प्रयास किया। हालांकि, एआई इंसिडेंट के संग्रह पर इस वर्गीकरण को आधार बनाने के लिए कोई संग्रह नहीं था। इस कारण से, पीएआई ने एआईआईडी बनाया।

टेकटॉक्स के अनुसार, एआईआईडी का प्रारूप राष्ट्रीय परिवहन सुरक्षा बोर्ड द्वारा बनाए रखे गए विमान दुर्घटना डेटाबेस की संरचना से प्रभावित था। 1996 से रिपोर्ट एकत्र करने के बाद, व्यावसायिक हवाई यात्रा प्रणाली ने घटनाओं को संग्रहीत और विश्लेषण करके विमानन उद्योग की सुरक्षा बढ़ाने में कामयाबी हासिल की है। आशा है कि एआई इंसिडेंट का एक समान भंडार एआई सिस्टम को सुरक्षित, अधिक नैतिक और अधिक विश्वसनीय बना सकता है। एआईआईडी ने कॉमन वल्नरेबिलिटीज़ एंड एक्सपोज़र डेटाबेस से भी प्रेरणा ली, जो विभिन्न उद्योगों और अनुशासनों में उल्लेखनीय सॉफ़्टवेयर विफलताओं का एक भंडार है।
शॉन मैकग्रेगर आईबीएम में वॉटसन एआई एक्सपीआरआईज़े के लिए प्रमुख तकनीकी सलाहकार हैं। मैकग्रेगर एआईआईडी के वास्तविक डेटाबेस के विकास की देखरेख के लिए भी जिम्मेदार हैं। मैकग्रेगर ने बताया कि एआईआईडी का अंतिम लक्ष्य अंततः एआई सिस्टम को नुकसान पहुँचाने से रोकना है, या कम से कम हानिकारक घटनाओं की गंभीरता को कम करना है। जैसा कि मैकग्रेगर ने उल्लेख किया है, मशीन लर्निंग सिस्टम पारंपरिक सॉफ़्टवेयर सिस्टम की तुलना में काफी अधिक जटिल और अप्रत्याशित होते हैं, और परिणामस्वरूप, उन्हें उसी तरह से परीक्षण नहीं किया जा सकता है जैसे अन्य सॉफ़्टवेयर को परीक्षण किया जा सकता है। मशीन लर्निंग सिस्टम अपने व्यवहार को अप्रत्याशित तरीकों से बदल सकते हैं। मैकग्रेगर का उल्लेख है कि गहरे शिक्षण प्रणालियों की सीखने की क्षमता का अर्थ है कि “दोष अधिक संभावना है, अधिक जटिल है, और अधिक खतरनाक” जब वे एक असंरचित दुनिया में प्रवेश करते हैं।

1,000 से अधिक एआई संबंधित घटनाएं दर्ज की गईं

एआईआईडी के निर्माण के बाद से, डेटाबेस में 1,000 से अधिक एआई संबंधित घटनाएं दर्ज की गई हैं। डेटाबेस में सभी घटनाओं में, एआई न्यायसंगतता से संबंधित मुद्दे सबसे सामान्य प्रकार की हानिकारक घटना थी। इनमें से कई न्यायसंगतता घटनाएं सरकारी एजेंसियों द्वारा चेहरे की पहचान एल्गोरिदम के उपयोग से संबंधित हैं। मैकग्रेगर यह भी उल्लेख करते हैं कि डेटाबेस में रोबोटिक्स से संबंधित घटनाओं की संख्या बढ़ रही है।

डेटाबेस के आगंतुक मानदंड जैसे कीवर्ड, घटना आईडी, स्रोत, या लेखक के आधार पर डेटाबेस में खोज कर सकते हैं। उदाहरण के लिए, “डीपफ़ेक” के लिए खोज चलाने से 7 रिपोर्ट मिलती हैं, जबकि “रोबोट” के लिए खोज चलाने से 158 रिपोर्ट मिलती हैं।

एआई की विफलता और अप्रत्याशित तरीके से काम करने की घटनाओं के लिए एक केंद्रीकृत डेटाबेस शोधकर्ताओं, इंजीनियरों और नैतिकविदों को एआई सिस्टम के विकास और तैनाती की देखरेख में मदद कर सकता है। टेक कंपनियों में उत्पाद प्रबंधक एआईआईडी का उपयोग यह देखने के लिए कर सकते हैं कि एआई सिफारिश प्रणालियों को नियोजित करने से पहले कोई संभावित समस्याएं तो नहीं हैं, या एक एआई इंजीनियर को यह विचार मिल सकता है कि एआई अनुप्रयोग बनाते समय सुधार के लिए किन पूर्वाग्रहों की आवश्यकता है। इसी तरह, जोखिम अधिकारी डेटाबेस का उपयोग यह निर्धारित करने के लिए कर सकते हैं कि क्या कोई संभावित नकारात्मक परिणाम एआई मॉडल से जुड़े हुए हैं, जिससे उन्हें आगे की योजना बनाने और संभावित हानियों को कम करने के लिए उपाय विकसित करने में मदद मिल सकती है।

एआईआईडी के अंतर्गत आने वाला आर्किटेक्चर लचीला होने के लिए डिज़ाइन किया गया है, क्योंकि यह डेटाबेस को क्वेरी करने और अर्थपूर्ण अंतर्दृष्टि निकालने के लिए नए उपकरण बनाने की अनुमति देता है। पार्टनरशिप ऑन एआई और मैकग्रेगर एक लचीला टैक्सोनॉमी विकसित करने के लिए सहयोग करेंगे जिसका उपयोग विभिन्न प्रकार की एआई घटनाओं को वर्गीकृत करने के लिए किया जा सकता है। टीम आशा करती है कि एक बार लचीला टैक्सोनॉमी बन जाने के बाद, इसे एक स्वचालित प्रणाली के साथ जोड़ा जा सकता है जो स्वचालित रूप से एआई घटनाओं को लॉग करेगी।

“एआई समुदाय ने अपने उत्पादों, नियंत्रण प्रक्रियाओं और शोध कार्यक्रमों में परिवर्तनों को प्रेरित करने के लिए एक दूसरे के साथ घटना रिकॉर्ड साझा करना शुरू कर दिया है,” मैकग्रेगर ने टेकटॉक्स के माध्यम से बताया। “साइट नवंबर में सार्वजनिक रूप से जारी की गई थी, इसलिए हम अभी भी प्रणाली के लाभों को महसूस करना शुरू कर रहे हैं।” (META ) (AAPL ) (AMZN ) (GOOGL )