नैतिकता
आर्टिफ़िशियल इंटेलिजेंस में हॉलुसिनेशन और पूर्वाग्रह के बढ़ते चिंताएं: एपोरिया की 2024 रिपोर्ट में उद्योग मानकों की तत्काल आवश्यकता पर प्रकाश डाला गया है
Unite.AI को Google पर अपने पसंदीदा स्रोतों में जोड़ें
आर्टिफ़िशियल इंटेलिजेंस और मशीन लर्निंग (एआई और एमएल) के क्षेत्र में, एपोरिया की एक हालिया रिपोर्ट ने कुछ चौंकाने वाले निष्कर्षों को सामने लाया है। एपोरिया द्वारा किए गए सर्वेक्षण का शीर्षक “2024 एआई और एमएल रिपोर्ट: मॉडल और समाधानों का विकास” है, जो जनरेटिव एआई और बड़े भाषा मॉडल (एलएलएम) में हॉलुसिनेशन और पूर्वाग्रह की बढ़ती प्रवृत्ति की ओर संकेत करता है, जो एक महत्वपूर्ण चुनौती है जो उद्योग की परिपक्वता की ओर तेजी से बढ़ रही है।
एआई हॉलुसिनेशन उन मामलों को संदर्भित करता है जहां जनरेटिव एआई मॉडल गलत, असंगत या वास्तविकता से जुड़े नहीं होते हैं। ये हॉलुसिनेशन छोटी अशुद्धियों से लेकर महत्वपूर्ण त्रुटियों तक हो सकते हैं, जिनमें पूर्वाग्रहित या संभावित रूप से हानिकारक सामग्री का निर्माण शामिल है।
एआई हॉलुसिनेशन के परिणाम महत्वपूर्ण हो सकते हैं, खासकर जब ये मॉडल व्यवसाय और समाज के विभिन्न पहलुओं में एकीकृत होते जा रहे हैं। उदाहरण के लिए, एआई-जनित जानकारी में अशुद्धि भ्रामक जानकारी का कारण बन सकती है, जबकि पूर्वाग्रहित सामग्री रूढ़िवादिता या अन्यायपूर्ण प्रथाओं को बढ़ावा दे सकती है। स्वास्थ्य सेवा, वित्त या कानूनी सलाह जैसे संवेदनशील अनुप्रयोगों में, ऐसी त्रुटियां गंभीर परिणामों का कारण बन सकती हैं, जो निर्णयों और परिणामों को प्रभावित कर सकती हैं।
सर्वेक्षण के निष्कर्ष उत्पादन मॉडलों की निरंतर निगरानी और अवलोकन की आवश्यकता पर जोर देते हैं।
एपोरिया के सर्वेक्षण में उत्तरी अमेरिका और यूनाइटेड किंगडम में स्थित 1,000 मशीन लर्निंग पेशेवरों के उत्तर शामिल थे। ये व्यक्ति 500 से 7,000 कर्मचारियों वाली कंपनियों में काम करते हैं, जो वित्त, स्वास्थ्य सेवा, यात्रा, बीमा, सॉफ्टवेयर और खुदरा जैसे क्षेत्रों में फैले हुए हैं। निष्कर्ष एमएल उत्पादन नेताओं के सामने आने वाली चुनौतियों और अवसरों को रेखांकित करते हैं, एआई अनुकूलन के लिए दक्षता और मूल्य सृजन के लिए इसकी महत्वपूर्ण भूमिका पर प्रकाश डालते हैं।
मुख्य निष्कर्ष रिपोर्ट में शामिल हैं:
- परिचालन चुनौतियों की व्यापकता: मशीन लर्निंग इंजीनियरों की एक बड़ी 93% आबादी ने दैनिक या साप्ताहिक रूप से उत्पादन मॉडलों के साथ समस्याओं का सामना करने की सूचना दी। यह महत्वपूर्ण आंकड़ा प्रभावी निगरानी और नियंत्रण उपकरणों की आवश्यकता को रेखांकित करता है ताकि संचालन को सुचारू रूप से चलाया जा सके।
- एआई हॉलुसिनेशन की घटना: एक चिंताजनक 89% इंजीनियरों ने बड़े भाषा मॉडल और जनरेटिव एआई में हॉलुसिनेशन का अनुभव करने की सूचना दी। ये हॉलुसिनेशन तथ्यात्मक त्रुटियों, पूर्वाग्रह या हानिकारक सामग्री के रूप में प्रकट होते हैं।
- पूर्वाग्रह मितIGATION पर ध्यान केंद्रित करना: पूर्वाग्रहित डेटा का पता लगाने में बाधाओं और पर्याप्त निगरानी उपकरणों की कमी के बावजूद, सर्वेक्षण के उत्तरदाताओं का एक उल्लेखनीय 83% एआई परियोजनाओं में पूर्वाग्रह की निगरानी के महत्व पर जोर देता है।
- वास्तविक समय में अवलोकन का महत्व: मशीन लर्निंग पेशेवरों का एक बड़ा 88% हिस्सा मानता है कि वास्तविक समय में अवलोकन उत्पादन मॉडलों में समस्याओं की पहचान करने के लिए आवश्यक है, एक क्षमता जो सभी उद्यमों में स्वचालित निगरानी उपकरणों की कमी के कारण मौजूद नहीं है।
- विकास में संसाधन निवेश: रिपोर्ट से पता चलता है कि कंपनियां औसतन चार महीने का निवेश उत्पादन की निगरानी के लिए उपकरण और डैशबोर्ड विकसित करने में करती हैं, जो इस तरह के निवेशों की दक्षता और लागत प्रभावशीलता के बारे में संभावित चिंताओं को दर्शाता है।
“हमारी रिपोर्ट उद्योग में एक स्पष्ट सहमति दिखाती है, एआई उत्पादों को तेजी से तैनात किया जा रहा है, और यदि इन एमएल मॉडलों की निगरानी नहीं की जाती है तो परिणाम होंगे,” एपोरिया के सीईओ लिरान हासोन ने कहा। “इन उपकरणों के पीछे इंजीनियरों ने बात की है – प्रौद्योगिकी में समस्याएं हैं और उन्हें ठीक किया जा सकता है। लेकिन समस्याओं को ठीक करने के लिए सही निगरानी उपकरणों की आवश्यकता है, ताकि उद्यमों और उपभोक्ताओं को हॉलुसिनेशन और पूर्वाग्रह से मुक्त सर्वोत्तम संभव उत्पाद मिल सके।”
एपोरिया, जो मशीन लर्निंग द्वारा संचालित एआई उत्पादों की प्रभावशीलता में सुधार करने के लिए प्रतिबद्ध है, एमएलओपीएस चुनौतियों का सामना कर रहा है और जिम्मेदार एआई प्रथाओं की वकालत कर रहा है। कंपनी के ग्राहक-केंद्रित दृष्टिकोण और उपयोगकर्ता प्रतिक्रिया के एकीकरण ने उपयोगकर्ता अनुभव में सुधार, उत्पादन मॉडलों के विस्तार का समर्थन और हॉलुसिनेशन को खत्म करने के लिए मजबूत उपकरण और सुविधाओं के विकास को बढ़ावा दिया है।
एपोरिया की पूरी रिपोर्ट इन निष्कर्षों और एआई उद्योग के लिए उनके निहितार्थ पर एक गहन दृष्टिकोण प्रदान करती है। अधिक जानने के लिए, एपोरिया की सर्वेक्षण रिपोर्ट पर जाएं।
