एआई इंसीडेंट डेटाबेस का उद्देश्य एआई एल्गोरिदम को सुरक्षित बनाना है

कोई भी पर्याप्त रूप से बड़ा सिस्टम त्रुटियों का होगा, और इन त्रुटियों को सुधारने का एक हिस्सा उनका एक डेटाबेस है जिसे प्रभाव और संभावित कारणों के लिए विश्लेषण किया जा सकता है। एफडीए द्वारा एक डेटाबेस की तरह ही जो हानिकारक दवा प्रतिक्रियाओं के लिए बनाया गया है, या राष्ट्रीय परिवहन सुरक्षा बोर्ड द्वारा एक डेटाबेस जो विमान दुर्घटनाओं के लिए बनाया गया है, एआई इंसीडेंट डेटाबेस एक डेटाबेस है जो एआई सिस्टम की विफलताओं को सूचीबद्ध करने के लिए है और एआई शोधकर्ताओं को इन विफलताओं से बचने के नए तरीके इंजीनियर करने में मदद करने के लिए है। एआई इंसीडेंट डेटाबेस (एआईआईडी) के निर्माता आशा करते हैं कि यह एआई कंपनियों को सुरक्षित, अधिक नैतिक एआई विकसित करने में मदद करेगा।

एआईआईडी क्या है?

एआईआईडी पार्टनरशिप ऑन एआई (पीएआई) संगठन का उत्पाद है। पीएआई की स्थापना最初 2016 में बड़ी टेक कंपनियों जैसे फेसबुक, एप्पल, अमेज़ॅन, गूगल, आईबीएम, और माइक्रोसॉफ्ट में एआई शोध टीमों के सदस्यों द्वारा की गई थी। तब से, संगठन ने कई अन्य संगठनों से सदस्यों की भर्ती की है, जिनमें विभिन्न गैर-लाभकारी संगठन भी शामिल हैं। 2018 में, पीएआई ने एआई विफलताओं के लिए एक सुसंगत वर्गीकरण मानक बनाने का प्रयास किया। हालांकि, एआई इंसीडेंट्स का कोई संग्रह नहीं था जिस पर इस वर्गीकरण को आधारित किया जा सके। इस कारण से, पीएआई ने एआईआईडी बनाया।
टेकटॉक्स के अनुसार, एआईआईडी का प्रारूप राष्ट्रीय परिवहन सुरक्षा बोर्ड द्वारा बनाए गए विमान दुर्घटना डेटाबेस की संरचना से प्रभावित था। 1996 से रिपोर्ट एकत्र करना शुरू किया गया, वाणिज्यिक विमान यातायात प्रणाली ने विमान यातायात उद्योग की सुरक्षा बढ़ाने के लिए घटनाओं को संग्रहीत और विश्लेषण करके प्रबंध किया है। आशा है कि एआई इंसीडेंट्स का एक समान भंडार एआई सिस्टम को सुरक्षित, अधिक नैतिक, और अधिक विश्वसनीय बना सकता है। एआईआईडी ने कॉमन वल्नरेबिलिटीज और एक्सपोजर्स डेटाबेस से भी प्रेरणा ली, जो विभिन्न उद्योगों और अनुशासनों में फैले उल्लेखनीय सॉफ्टवेयर विफलताओं का एक भंडार है।
शॉन मैकग्रेगर आईबीएम में वाटसन एआई एक्सप्राइज के लिए प्रमुख तकनीकी सलाहकार हैं। मैकग्रेगर एआईआईडी के वास्तविक डेटाबेस के विकास की देखरेख के लिए भी जिम्मेदार है। मैकग्रेगर ने समझाया कि एआईआईडी का अंतिम लक्ष्य एआई सिस्टम को नुकसान पहुंचाने से रोकना है, या कम से कम हानिकारक घटनाओं की गंभीरता को कम करना है। जैसा कि मैकग्रेगर ने नोट किया, मशीन लर्निंग सिस्टम पारंपरिक सॉफ्टवेयर सिस्टम की तुलना में काफी अधिक जटिल और अप्रत्याशित हैं, और इसका परिणाम यह है कि उन्हें अन्य सॉफ्टवेयर की तरह परीक्षण नहीं किया जा सकता है। मशीन लर्निंग सिस्टम अपने व्यवहार को अप्रत्याशित तरीकों से बदल सकते हैं। मैकग्रेगर नोट करते हैं कि गहरे शिक्षण प्रणालियों की सीखने की क्षमता का अर्थ है “दोष अधिक संभावना, अधिक जटिल, और अधिक खतरनाक” जब वे एक असंरचित दुनिया में प्रवेश करते हैं।

1,000 से अधिक एआई संबंधित घटनाएं दर्ज की गईं

एआईआईडी बनाए जाने के बाद से, डेटाबेस में 1,000 से अधिक एआई संबंधित घटनाएं दर्ज की गई हैं। डेटाबेस में सभी घटनाओं में, एआई न्यायसंगतता से संबंधित मुद्दे सबसे सामान्य प्रकार की हानिकारक घटना थे। इनमें से कई न्यायसंगतता घटनाएं सरकारी एजेंसियों द्वारा चेहरे की पहचान एल्गोरिदम के उपयोग से संबंधित हैं। मैकग्रेगर यह भी नोट करते हैं कि रोबोटिक्स से संबंधित घटनाओं की संख्या बढ़ रही है जो डेटाबेस में जोड़ी जा रही है।
डेटाबेस के आगंतुक मानदंड जैसे कीवर्ड, घटना आईडी, स्रोत, या लेखक के आधार पर डेटाबेस में खोज कर सकते हैं। उदाहरण के लिए, “डीपफेक” के लिए खोज चलाने से 7 रिपोर्ट मिलती हैं, जबकि “रोबोट” के लिए खोज चलाने से 158 रिपोर्ट मिलती हैं।
एआई की विफलताओं और अप्रत्याशित तरीकों से काम करने वाली घटनाओं के लिए एक केंद्रीकृत डेटाबेस एआई सिस्टम के विकास और तैनाती पर शोधकर्ताओं, इंजीनियरों, और नैतिकता विशेषज्ञों को देखने में मदद कर सकता है। टेक कंपनियों में उत्पाद प्रबंधक एआईआईडी का उपयोग यह देखने के लिए कर सकते हैं कि एआई सिफारिश प्रणालियों को नियोजित करने से पहले कोई संभावित मुद्दे हैं या नहीं, या एआई इंजीनियर को एआई एप्लिकेशन बनाते समय सुधारे जाने वाले संभावित पूर्वाग्रहों का पता लगाने में मदद मिल सकती है। इसी तरह, जोखिम अधिकारी डेटाबेस का उपयोग एआई मॉडल से जुड़े संभावित नकारात्मक परिणामों का पता लगाने के लिए कर सकते हैं, जिससे उन्हें आगे की योजना बनाने और संभावित नुकसान को कम करने के लिए उपाय विकसित करने में मदद मिल सकती है।
एआईआईडी के अंतर्गत आने वाला आर्किटेक्चर लचीला होने के लिए है, क्योंकि यह डेटाबेस को प्रश्न करने और अर्थपूर्ण अंतर्दृष्टि निकालने के लिए नए उपकरण बनाने में सक्षम बनाता है। पार्टनरशिप ऑन एआई और मैकग्रेगर एक लचीली टैक्सोनॉमी विकसित करने के लिए सहयोग करेंगे जो एआई इंसीडेंट्स के विभिन्न रूपों को वर्गीकृत करने के लिए उपयोग की जा सकती है। टीम आशा करती है कि एक बार लचीली टैक्सोनॉमी बन जाने के बाद, इसे एक स्वचालित प्रणाली के साथ जोड़ा जा सकता है जो स्वचालित रूप से एआई इंसीडेंट्स को लॉग करेगी।
“एआई समुदाय ने अपने उत्पादों, नियंत्रण प्रक्रियाओं, और शोध कार्यक्रमों में परिवर्तन करने के लिए घटना रिकॉर्ड एक दूसरे के साथ साझा करना शुरू कर दिया है,” मैकग्रेगर ने टेकटॉक्स के माध्यम से समझाया। “साइट नवंबर में सार्वजनिक रूप से जारी की गई थी, इसलिए हम अभी इस प्रणाली के लाभों को महसूस करना शुरू कर रहे हैं।