नोरा पेट्रोवा, मशीन लर्निंग इंजीनियर और प्रोलिफिक में एआई सलाहकार – साक्षात्कार श्रृंखला

नोरा पेट्रोवा, प्रोलिफिक में एक मशीन लर्निंग इंजीनियर और एआई सलाहकार हैं। प्रोलिफिक की स्थापना 2014 में हुई थी और यह पहले से ही गूगल, स्टैनफोर्ड विश्वविद्यालय, ऑक्सफोर्ड विश्वविद्यालय, किंग्स कॉलेज लंदन और यूरोपीय आयोग जैसे संगठनों को अपने ग्राहकों के रूप में गिनती करता है, जो अपने नेटवर्क के प्रतिभागियों का उपयोग करके नए उत्पादों का परीक्षण करते हैं, एआई प्रणालियों को आंखों की निगरानी जैसे क्षेत्रों में प्रशिक्षित करते हैं और यह निर्धारित करते हैं कि उनके मानव-सामना वाले एआई अनुप्रयोग उनके निर्माताओं के इरादे के अनुसार काम कर रहे हैं या नहीं।

आप अपने प्रोलिफिक में पृष्ठभूमि और करियर के बारे में कुछ जानकारी साझा कर सकते हैं? एआई में आपकी रुचि क्या है?

मेरी भूमिका प्रोलिफिक में एआई उपयोग के मामलों और अवसरों के बारे में सलाहकार के रूप में और एक अधिक हाथों-हाथों में एमएल इंजीनियर के रूप में विभाजित है। मैंने अपना करियर सॉफ्टवेयर इंजीनियरिंग में शुरू किया और धीरे-धीरे मशीन लर्निंग में स्थानांतरित हो गया। मैंने पिछले 5 वर्षों में अधिकांश समय एनएलपी उपयोग के मामलों और समस्याओं पर केंद्रित किया है।

जो मुझे एआई में शुरू में रुचि लेने के लिए प्रेरित किया था, वह यह था कि यह डेटा से सीखने और यह जानने की क्षमता है कि हम, मनुष्य, कैसे सीखते हैं और हमारे मस्तिष्क कैसे संरचित हैं। मुझे लगता है कि एमएल और न्यूरोसाइंस एक दूसरे को पूरक कर सकते हैं और हमें यह समझने में मदद कर सकते हैं कि कैसे एआई प्रणालियों का निर्माण किया जाए जो दुनिया में नेविगेट करने, रचनात्मकता प्रदर्शित करने और समाज में मूल्य जोड़ने में सक्षम हों।

आपको एआई पूर्वाग्रह के कुछ सबसे बड़े मुद्दों के बारे में पता है?

पूर्वाग्रह एआई मॉडलों में डाले गए डेटा में निहित है और इसे पूरी तरह से हटाना बहुत मुश्किल है। हालांकि, यह महत्वपूर्ण है कि हम डेटा में मौजूद पूर्वाग्रहों के बारे में जागरूक हों और हानिकारक पूर्वाग्रहों को कम करने के तरीके खोजें। हम जिन सबसे बड़ी समस्याओं का सामना कर रहे हैं, वे हैं मॉडल जो हानिकारक रूढ़िवादिता को बढ़ावा देते हैं, प्रणालीगत पूर्वाग्रह और समाज में अन्याय। हमें यह सुनिश्चित करना चाहिए कि एआई मॉडल सुरक्षित हैं और संवेदनशील उपयोग के मामलों के लिए अनुमोदित होने से पहले उनका उपयोग किया जाता है।

कुछ प्रमुख क्षेत्र जहां एआई मॉडल ने हानिकारक पूर्वाग्रह प्रदर्शित किए हैं, उनमें स्कूल और विश्वविद्यालय प्रवेश में कम प्रतिनिधित्व वाले समूहों का भेदभाव और महिलाओं की भर्ती पर लिंग रूढ़िवादिता का नकारात्मक प्रभाव शामिल है। न केवल यह, बल्कि एक आपराधिक न्याय एल्गोरिदम को लगभग दोगुनी दर से अफ्रीकी अमेरिकी अभियुक्तों को “उच्च जोखिम” के रूप में चिह्नित करने के लिए पाया गया था, जबकि चेहरे की पहचान प्रौद्योगिकी अभी भी अल्पसंख्यकों के लिए उच्च त्रुटि दर से पीड़ित है क्योंकि प्रतिनिधि प्रशिक्षण डेटा की कमी के कारण।

उपरोक्त उदाहरण एआई मॉडल द्वारा प्रदर्शित पूर्वाग्रहों के एक छोटे से खंड को कवर करते हैं और हम भविष्य में बड़ी समस्याओं का सामना कर सकते हैं यदि हम पूर्वाग्रह को कम करने पर ध्यान केंद्रित नहीं करते हैं। यह ध्यान रखना महत्वपूर्ण है कि एआई मॉडल डेटा से सीखते हैं जो इन पूर्वाग्रहों को शामिल करता है क्योंकि मानव निर्णय लेने में अनियंत्रित और अचेतन पूर्वाग्रहों का प्रभाव पड़ता है। कई मामलों में, मानव निर्णय लेने वाले को सौंपना पूर्वाग्रह को समाप्त नहीं करेगा। वास्तव में पूर्वाग्रहों को कम करने के लिए डेटा में मौजूद पूर्वाग्रहों को समझना, पूर्वाग्रहित भविष्यवाणियों में योगदान देने वाले कारकों को अलग करना और सामूहिक रूप से यह तय करना शामिल है कि हम महत्वपूर्ण निर्णयों के लिए क्या आधार बनाना चाहते हैं। सुरक्षा के लिए मॉडल का मूल्यांकन करने के लिए मानकों का एक सेट विकसित करना एक महत्वपूर्ण कदम होगा।

एआई हॉलुसिनेशन किसी भी प्रकार के जनरेटिव एआई के साथ एक बड़ी समस्या है। आप ह्यूमन-इन-द-लूप (HITL) प्रशिक्षण के माध्यम से इन मुद्दों को कम करने के बारे में चर्चा कर सकते हैं?

एआई मॉडल में हॉलुसिनेशन विशेष रूप से जनरेटिव एआई के कुछ उपयोग के मामलों में समस्याग्रस्त हैं, लेकिन यह ध्यान रखना महत्वपूर्ण है कि वे स्वयं में एक समस्या नहीं हैं। जनरेटिव एआई के कुछ रचनात्मक उपयोगों में, हॉलुसिनेशन स्वागत योग्य हैं और एक अधिक रचनात्मक और दिलचस्प प्रतिक्रिया की ओर ले जाते हैं।

वे उन उपयोग के मामलों में समस्याग्रस्त हो सकते हैं जहां तथ्यात्मक जानकारी पर निर्भरता उच्च है। उदाहरण के लिए, स्वास्थ्य सेवा में, जहां मजबूत निर्णय लेना महत्वपूर्ण है, स्वास्थ्य पेशेवरों को विश्वसनीय तथ्यात्मक जानकारी प्रदान करना आवश्यक है।

एचआईटीएल उन प्रणालियों को संदर्भित करता है जो मॉडल के लिए प्रतिक्रिया प्रदान करने के लिए मानव को सक्षम बनाती हैं जो एक निश्चित स्तर के आत्मविश्वास से नीचे हैं। हॉलुसिनेशन के संदर्भ में, एचआईटीएल का उपयोग मॉडल को सिखाने के लिए किया जा सकता है कि विभिन्न उपयोग के मामलों के लिए प्रतिक्रिया देने से पहले उन्हें किस स्तर का आत्मविश्वास होना चाहिए। ये सीमाएं उपयोग के मामलों के आधार पर भिन्न होंगी। उदाहरण के लिए, एक कानूनी उपयोग के मामले में, मानव एआई मॉडल को यह दिखा सकते हैं कि जटिल कानूनी दस्तावेजों के साथ प्रश्नों का उत्तर देने से पहले तथ्य-जांच एक आवश्यक चरण है।

एआई कार्यकर्ता जैसे डेटा एनोटेटर एआई पूर्वाग्रह के संभावित मुद्दों को कम करने में कैसे मदद कर सकते हैं?

एआई कार्यकर्ता सबसे पहले और सबसे महत्वपूर्ण डेटा में मौजूद पूर्वाग्रहों की पहचान करने में मदद कर सकते हैं। एक बार पूर्वाग्रह की पहचान हो जाने के बाद, पूर्वाग्रह को कम करने के लिए रणनीतियों का विकास करना आसान हो जाता है। डेटा एनोटेटर पूर्वाग्रह को कम करने के तरीकों के साथ आने में भी मदद कर सकते हैं। उदाहरण के लिए, एनएलपी कार्यों के लिए, वे समस्याग्रस्त पाठ के स्निपेट को वैकल्पिक तरीकों से फिर से लिखने में मदद कर सकते हैं ताकि भाषा में मौजूद पूर्वाग्रह को कम किया जा सके। इसके अलावा, एआई कार्यकर्ताओं में विविधता लेबलिंग में पूर्वाग्रह के मुद्दों को कम करने में मदद कर सकती है।

आप यह सुनिश्चित करने के लिए क्या कदम उठाते हैं कि एआई कार्यकर्ता अपने स्वयं के मानव पूर्वाग्रहों को एआई प्रणाली में अनजाने में नहीं डालते हैं?

यह एक जटिल मुद्दा है जिसके लिए सावधानी से विचार की आवश्यकता है। मानव पूर्वाग्रहों को समाप्त करना लगभग असंभव है और एआई कार्यकर्ता अनजाने में अपने पूर्वाग्रहों को एआई मॉडल में डाल सकते हैं, इसलिए यह महत्वपूर्ण है कि हम ऐसी प्रक्रियाओं का विकास करें जो कार्यकर्ताओं को सर्वोत्तम प्रथाओं की ओर मार्गदर्शन करें।

कुछ कदम जो मानव पूर्वाग्रहों को कम से कम रखने के लिए उठाए जा सकते हैं:

• एआई कार्यकर्ताओं को अचेतन पूर्वाग्रहों और उन्हें पहचानने और प्रबंधित करने के तरीकों पर व्यापक प्रशिक्षण प्रदान करना।
• कार्यकर्ताओं को यह याद दिलाने के लिए चेकलिस्ट जो उन्हें अपनी प्रतिक्रियाओं को जमा करने से पहले सत्यापित करने के लिए कहती हैं।
• एक मूल्यांकन चलाना जो यह जांचता है कि एआई कार्यकर्ताओं के पास विभिन्न प्रकार के पूर्वाग्रहों के प्रति कितनी समझ है, जहां उन्हें विभिन्न प्रकार के पूर्वाग्रहों के उदाहरण दिखाए जाते हैं और उन्हें कम से कम पूर्वाग्रहित प्रतिक्रिया चुनने के लिए कहा जाता है।

विनियमक दुनिया भर में एआई आउटपुट को विनियमित करने का इरादा रखते हैं, आपके विचार में वे क्या गलत समझते हैं और क्या सही है?

यह महत्वपूर्ण है कि हम इसे एक कठिन समस्या के रूप में शुरू करें जिसका कोई भी समाधान नहीं खोजा है। समाज और एआई दोनों एक दूसरे को प्रभावित करेंगे और तरीकों से जो बहुत मुश्किल हैं अनुमान लगाने के लिए। एक प्रभावी रणनीति का हिस्सा एआई में क्या हो रहा है, लोग इसके प्रति कैसे प्रतिक्रिया दे रहे हैं और यह विभिन्न उद्योगों पर क्या प्रभाव डाल रहा है, इस पर ध्यान देना है।

मुझे लगता है कि एआई के प्रभावी विनियमन में एक महत्वपूर्ण बाधा यह है कि एआई मॉडल क्या कर सकते हैं और क्या नहीं कर सकते हैं, और वे कैसे काम करते हैं, इसकी कमी है। यह, बदले में, यह अनुमान लगाना अधिक कठिन बनाता है कि ये मॉडल विभिन्न क्षेत्रों और समाज के विभिन्न वर्गों पर क्या परिणाम डालेंगे। एक और क्षेत्र जो कमी है वह यह है कि एआई मॉडलों को मानव मूल्यों और सुरक्षा के साथ कैसे संरेखित किया जाए, इसके बारे में विचार नेतृत्व की कमी है।

विनियमकों ने एआई क्षेत्र के विशेषज्ञों के साथ सहयोग मांगा है, एआई के आसपास बहुत सख्त नियमों के साथ नवाचार को रोकने के लिए सावधान रहे हैं, और नौकरी विस्थापन पर एआई के परिणामों पर विचार करना शुरू कर दिया है, जो सभी महत्वपूर्ण क्षेत्र हैं। यह महत्वपूर्ण है कि हम सावधानी से आगे बढ़ें क्योंकि हमारे विचार एआई विनियमन के बारे में समय के साथ स्पष्ट होते हैं और इस मुद्दे को लोकतांत्रिक तरीके से हल करने के लिए जितने संभव हो उतने लोगों को शामिल करना है।

प्रोलिफिक समाधान एआई पूर्वाग्रह और हमारे द्वारा चर्चा किए गए अन्य मुद्दों को कम करने में उद्यमों की मदद कैसे कर सकते हैं?

एआई परियोजनाओं के लिए डेटा संग्रह एक विचारशील या विचारशील प्रक्रिया नहीं रही है। हमने पहले स्क्रैपिंग, ऑफशोरिंग और अन्य तरीकों को देखा है। हालांकि, एआई को कैसे प्रशिक्षित किया जाए यह महत्वपूर्ण है और अगली पीढ़ी के मॉडल का निर्माण करने के लिए इरादतन इकट्ठा किए गए, उच्च गुणवत्ता वाले डेटा की आवश्यकता होगी, जो वास्तविक लोगों से और उन लोगों से होगी जिनके साथ हम सीधे संपर्क में हैं। यहीं पर प्रोलिफिक अपनी छाप छोड़ रहा है।

अन्य डोमेन, जैसे कि मतदान, बाजार अनुसंधान या वैज्ञानिक अनुसंधान ने यह सीखा है कि नमूना जिस दर्शक से लिया जाता है वह परिणामों पर बहुत बड़ा प्रभाव डालता है। एआई इसे पकड़ने की शुरुआत कर रहा है, और हम अब एक क्रॉसरोड पर हैं।

अब यह समय है कि हम बेहतर नमूनों का उपयोग शुरू करें और एआई प्रशिक्षण और परिष्करण के लिए अधिक प्रतिनिधि समूहों के साथ काम करें। दोनों सुरक्षित, पूर्वाग्रह-मुक्त और संरेखित मॉडल विकसित करने के लिए महत्वपूर्ण हैं।

प्रोलिफिक उद्यमों को एआई प्रयोग करने के लिए सही उपकरण प्रदान करने में मदद कर सकता है और प्रतिभागियों से डेटा एकत्र करने में जो पूर्वाग्रह की जांच की जाती है और मार्गदर्शन प्रदान करता है डेटा संग्रह, चयन, मुआवजा और प्रतिभागियों के साथ न्यायपूर्ण व्यवहार के बारे में सर्वोत्तम प्रथाओं पर।

आपके विचार में एआई पारदर्शिता के बारे में क्या है, क्या उपयोगकर्ताओं को यह देखने में सक्षम होना चाहिए कि एआई एल्गोरिदम को किस डेटा पर प्रशिक्षित किया गया है?

मुझे लगता है कि पारदर्शिता के फायदे और नुकसान हैं और एक अच्छा संतुलन अभी तक नहीं मिला है। कंपनियां अपने एआई मॉडल को प्रशिक्षित करने के लिए उपयोग किए जाने वाले डेटा के बारे में जानकारी छुपा रही हैं क्योंकि वे मुकदमेबाजी से डरते हैं। अन्य लोगों ने अपने एआई मॉडल को सार्वजनिक रूप से उपलब्ध कराया है और उन डेटा के बारे में सभी जानकारी जारी की है जिसका उन्होंने उपयोग किया है। पूरी पारदर्शिता के लिए बहुत सारे अवसर खोलती है जो मॉडल की कमजोरियों का शोषण करने के लिए हैं। पूरी गोपनीयता भरोसा बनाने में मदद नहीं करती है और समाज को सुरक्षित एआई बनाने में शामिल नहीं करती है। एक अच्छा मध्य मैदान उपयोगकर्ताओं को यह विश्वास दिलाने के लिए पर्याप्त पारदर्शिता प्रदान करेगा कि एआई मॉडल अच्छी गुणवत्ता वाले प्रासंगिक डेटा पर प्रशिक्षित किए गए हैं जिसे हमने सहमति दी है। हमें यह सुनिश्चित करने के लिए एआई के प्रभावों पर ध्यान देना चाहिए कि विभिन्न उद्योगों पर और प्रभावित पक्षों के साथ संवाद खोलना और यह सुनिश्चित करना है कि हम सभी के लिए काम करने वाली प्रथाओं का विकास करें।

मुझे लगता है कि यह भी महत्वपूर्ण है कि हम यह तय करें कि उपयोगकर्ता को किस प्रकार की व्याख्या योग्यता से संतुष्ट होना चाहिए। यदि वे यह जानना चाहते हैं कि मॉडल एक निश्चित प्रतिक्रिया क्यों दे रहा है, तो उन्हें मॉडल को प्रशिक्षित करने के लिए उपयोग किए गए रॉ डेटा को देना उनके प्रश्न का उत्तर देने में मदद नहीं करेगा। इसलिए, अच्छे व्याख्या और व्याख्यात्मक उपकरण बनाना महत्वपूर्ण है।

एआई संरेखण अनुसंधान एआई प्रणालियों को मानव इरादों, पसंद या नैतिक सिद्धांतों की ओर मोड़ने का लक्ष्य रखता है। आप एआई कार्यकर्ताओं को कैसे प्रशिक्षित किया जाता है और यह कैसे सुनिश्चित किया जाता है कि एआई सबसे अच्छा संरेखित है, इसके बारे में चर्चा कर सकते हैं?

यह एक सक्रिय अनुसंधान क्षेत्र है और अभी तक यह तय नहीं हुआ है कि हमें एआई मॉडलों को मानव मूल्यों या नैतिक सिद्धांतों के साथ संरेखित करने के लिए किन रणनीतियों का उपयोग करना चाहिए।

एआई कार्यकर्ताओं को आमतौर पर अपनी पसंद का प्रतिनिधित्व करने और अपनी पसंद के बारे में सच्चाई से उत्तर देने के लिए कहा जाता है, साथ ही साथ सुरक्षा, पूर्वाग्रह की कमी, हानिरहितता और उपयोगिता के सिद्धांतों का पालन करना होता है।

लक्ष्यों, नैतिक सिद्धांतों या मूल्यों के साथ संरेखण के संबंध में, कई दृष्टिकोण हैं जो आशाजनक लगते हैं। एक उल्लेखनीय उदाहरण मीनिंग अलाइनमेंट इंस्टीट्यूट द्वारा लोकतांत्रिक फाइन-ट्यूनिंग पर काम है। यहाँ इस विचार को पेश करने वाला एक उत्कृष्ट पोस्ट है। धन्यवाद इस महान साक्षात्कार के लिए और एआई पूर्वाग्रह पर अपने विचार साझा करने के लिए, पाठक जो अधिक जानना चाहते हैं उन्हें प्रोलिफिक पर जाना चाहिए。