आर्टिफ़िशियल इंटेलिजेंस हॉल्यूसिनेशन और पूर्वाग्रह पर बढ़ती चिंताएं: एपोरिया की 2024 रिपोर्ट में उद्योग मानकों की तत्काल आवश्यकता पर प्रकाश डाला गया है

एपोरिया की एक हालिया रिपोर्ट ने, जो कि आर्टिफ़िशियल इंटेलिजेंस कंट्रोल प्लेटफ़ॉर्म सेक्टर में एक नेता है, कुछ चौंकाने वाले निष्कर्षों को आर्टिफ़िशियल इंटेलिजेंस और मशीन लर्निंग (एआई और एमएल) के क्षेत्र में प्रकाश में लाया है। “2024 एआई और एमएल रिपोर्ट: मॉडल्स और समाधानों का विकास” शीर्षक वाले इस सर्वेक्षण में, एपोरिया द्वारा किए गए सर्वेक्षण से पता चलता है कि जनरेटिव एआई और बड़े भाषा मॉडल्स (एलएलएम) में हॉल्यूसिनेशन और पूर्वाग्रह की बढ़ती प्रवृत्ति है, जो एक महत्वपूर्ण चुनौती का संकेत देती है जो एक उद्योग के लिए तेजी से परिपक्वता की ओर बढ़ रही है।

एआई हॉल्यूसिनेशन उन मामलों को संदर्भित करता है जहां जनरेटिव एआई मॉडल्स गलत, असंगत या वास्तविकता से जुड़े नहीं होते हैं। ये हॉल्यूसिनेशन छोटी अशुद्धियों से लेकर महत्वपूर्ण त्रुटियों तक हो सकते हैं, जिनमें पूर्वाग्रहित या संभावित रूप से हानिकारक सामग्री का निर्माण शामिल है।

एआई हॉल्यूसिनेशन के परिणाम महत्वपूर्ण हो सकते हैं, विशेष रूप से जब ये मॉडल व्यवसाय और समाज के विभिन्न पहलुओं में एकीकृत किए जा रहे हैं। उदाहरण के लिए, एआई-जनित जानकारी में अशुद्धि गलत सूचना का कारण बन सकती है, जबकि पूर्वाग्रहित सामग्री रूढ़िवादिता या अनुचित प्रथाओं को बढ़ावा दे सकती है। स्वास्थ्य सेवा, वित्त, या कानूनी सलाह जैसे संवेदनशील अनुप्रयोगों में, ऐसी त्रुटियां गंभीर परिणामों का कारण बन सकती हैं, जो निर्णयों और परिणामों को प्रभावित कर सकती हैं।

सर्वेक्षण के निष्कर्ष उत्पादन मॉडल्स की बारीकी से निगरानी और अवलोकन की आवश्यकता पर जोर देते हैं।

एपोरिया के सर्वेक्षण में 1,000 मशीन लर्निंग पेशेवरों की प्रतिक्रियाएं शामिल थीं, जो उत्तरी अमेरिका और यूनाइटेड किंगडम में स्थित थीं। ये व्यक्ति 500 से 7,000 कर्मचारियों वाली कंपनियों में काम करते हैं, जो वित्त, स्वास्थ्य सेवा, यात्रा, बीमा, सॉफ़्टवेयर, और खुदरा जैसे क्षेत्रों में फैले हुए हैं। निष्कर्ष एमएल उत्पादन नेताओं के सामने चुनौतियों और अवसरों को रेखांकित करते हैं, जो कि एआई अनुकूलन के लिए दक्षता और मूल्य सृजन के लिए महत्वपूर्ण भूमिका पर प्रकाश डालते हैं।

मुख्य निष्कर्ष रिपोर्ट में शामिल हैं:

1. परिचालन चुनौतियों की व्यापकता: एक अभिभूत 93% मशीन लर्निंग इंजीनियरों का कहना है कि वे उत्पादन मॉडल्स के साथ दैनिक या साप्ताहिक रूप से मुद्दों का सामना करते हैं। यह महत्वपूर्ण आंकड़ा प्रभावी निगरानी और नियंत्रण उपकरणों की आवश्यकता को रेखांकित करता है ताकि सुचारू रूप से संचालन सुनिश्चित किया जा सके।
2. एआई हॉल्यूसिनेशन की घटना: एक चिंताजनक 89% इंजीनियरों का कहना है कि वे बड़े भाषा मॉडल्स और जनरेटिव एआई में हॉल्यूसिनेशन का अनुभव करते हैं। ये हॉल्यूसिनेशन तथ्यात्मक त्रुटियों, पूर्वाग्रह, या हानिकारक सामग्री के रूप में प्रकट होते हैं।
3. पूर्वाग्रह मिटाने पर ध्यान केंद्रित करना: पूर्वाग्रहित डेटा का पता लगाने में बाधाओं और पर्याप्त निगरानी उपकरणों की कमी के बावजूद, एक उल्लेखनीय 83% सर्वेक्षण उत्तरदाताओं ने एआई परियोजनाओं में पूर्वाग्रह की निगरानी के महत्व पर जोर दिया है।
4. वास्तविक समय अवलोकनीयता का महत्व: एक महत्वपूर्ण 88% मशीन लर्निंग पेशेवरों का मानना है कि वास्तविक समय अवलोकनीयता उत्पादन मॉडल्स में मुद्दों की पहचान करने के लिए आवश्यक है, एक क्षमता जो सभी उद्यमों में स्वचालित निगरानी उपकरणों की कमी के कारण मौजूद नहीं है।
5. विकास में संसाधन निवेश: रिपोर्ट से पता चलता है कि कंपनियां औसतन चार महीने का निवेश उत्पादन की निगरानी के लिए उपकरण और डैशबोर्ड विकसित करने में करती हैं, जो इस तरह के निवेश की दक्षता और लागत प्रभावशीलता के बारे में संभावित चिंताओं को दर्शाता है।

“हमारी रिपोर्ट उद्योग में एक स्पष्ट सहमति दिखाती है, एआई उत्पादों को तेजी से तैनात किया जा रहा है, और यदि इन एमएल मॉडल्स की निगरानी नहीं की जाती है तो परिणाम होंगे,” एपोरिया के सीईओ लिरान हासोन ने कहा। “इंजीनियरों ने जो इन उपकरणों के पीछे हैं – उन्होंने बात की है – प्रौद्योगिकी में समस्याएं हैं और उन्हें ठीक किया जा सकता है। लेकिन सही अवलोकनीयता उपकरणों की आवश्यकता है ताकि यह सुनिश्चित किया जा सके कि उद्यमों और उपभोक्ताओं को हॉल्यूसिनेशन और पूर्वाग्रह से मुक्त सबसे अच्छा संभव उत्पाद मिले।”

एपोरिया, जो मशीन लर्निंग द्वारा संचालित एआई उत्पादों की प्रभावशीलता में सुधार करने के लिए प्रतिबद्ध है, एमएलओप्स चुनौतियों का समाधान कर रहा है और जिम्मेदार एआई प्रथाओं की वकालत कर रहा है। कंपनी के ग्राहक-केंद्रित दृष्टिकोण और उपयोगकर्ता प्रतिक्रिया के एकीकरण ने मजबूत उपकरण और सुविधाओं के विकास को जन्म दिया है जो उपयोगकर्ता अनुभव में सुधार करते हैं, उत्पादन मॉडल्स के विस्तार का समर्थन करते हैं, और हॉल्यूसिनेशन को समाप्त करने में मदद करते हैं।

एपोरिया की पूरी रिपोर्ट इन निष्कर्षों और उनके एआई उद्योग के लिए परिणामों पर एक गहन दृष्टिकोण प्रदान करती है। अधिक जानने के लिए, एपोरिया की सर्वेक्षण रिपोर्ट पर जाएं।