ग्रेस यी, सीनियर डायरेक्टर ऑफ एथिकल इनोवेशन (एआई एथिक्स एंड एक्सेसिबिलिटी) एडोबी – इंटरव्यू सीरीज

ग्रेस यी एडोबी के सीनियर डायरेक्टर ऑफ एथिकल इनोवेशन (एआई एथिक्स एंड एक्सेसिबिलिटी) हैं, जो वैश्विक स्तर पर, संगठन-व्यापी काम को नैतिकता और विकसित प्रक्रियाओं, उपकरणों, प्रशिक्षणों और अन्य संसाधनों के आसपास चला रहे हैं ताकि यह सुनिश्चित किया जा सके कि एडोबी के उद्योग-अग्रणी एआई नवाचार निरंतर रूप से एडोबी के मूल मूल्यों और नैतिक सिद्धांतों के साथ विकसित हों। ग्रेस एडोबी की जिम्मेदारी से प्रौद्योगिकी बनाने और उपयोग करने की प्रतिबद्धता को आगे बढ़ाती है, जिसमें सभी एआई विकास में नैतिकता और समावेशिता को केंद्र में रखा जाता है। इस काम के हिस्से के रूप में, ग्रेस एडोबी की एआई नैतिकता समिति और समीक्षा बोर्ड की देखरेख करती है, जो एडोबी की विकास टीमों को मार्गदर्शन करने में मदद करने के लिए सिफारिशें करती है और नए एआई सुविधाओं और उत्पादों की समीक्षा करती है ताकि यह सुनिश्चित किया जा सके कि वे एडोबी के जिम्मेदारी, जवाबदेही और पारदर्शिता के सिद्धांतों के अनुरूप हों। ये सिद्धांत सुनिश्चित करते हैं कि हम अपने एआई संचालित सुविधाओं को बाजार में लाते समय हानिकारक और पूर्वाग्रहपूर्ण परिणामों को कम करते हैं। ग्रेस अतिरिक्त रूप से नीति टीम के साथ काम करती है ताकि एडोबी के लाभ के लिए एआई के आसपास सार्वजनिक नीति, कानूनों और विनियमों को आकार देने में मदद मिल सके।

एडोबी की एक्सेसिबिलिटी की प्रतिबद्धता के हिस्से के रूप में, ग्रेस सुनिश्चित करती है कि एडोबी के उत्पाद सभी उपयोगकर्ताओं के लिए समावेशी और सुलभ हैं, ताकि कोई भी डिजिटल अनुभवों के साथ बना सके, बातचीत कर सके और जुड़ सके। उनके नेतृत्व में, एडोबी सरकारी समूहों, व्यापार संघों और उपयोगकर्ता समुदायों के साथ एक्सेसिबिलिटी नीतियों और मानकों को बढ़ावा देने और आगे बढ़ाने के लिए काम करता है, जो प्रभावी उद्योग समाधानों को चलाता है।

आप हमें एडोबी के पिछले पांच वर्षों के एआई नैतिकता को आकार देने के बारे में बता सकते हैं? कौन से प्रमुख मील के पत्थर इस विकास को परिभाषित करते हैं, विशेष रूप से तेजी से आगे बढ़ने वाली प्रगति जैसे जनरेटिव एआई के सामने?

पांच साल पहले, हमने अपनी एआई नैतिकता प्रक्रिया को औपचारिक रूप दिया और जवाबदेही, जिम्मेदारी और पारदर्शिता के हमारे एआई नैतिकता सिद्धांतों को स्थापित किया, जो हमारी एआई नैतिकता शासन प्रक्रिया के लिए आधार के रूप में कार्य करते हैं। हमने दुनिया भर के एडोबी कर्मचारियों की एक विविध, क्रॉस-फंक्शनल टीम को एकत्र किया ताकि समय की कसौटी पर खरे उतरने वाले कार्रवाई योग्य सिद्धांत विकसित किए जा सकें।

इसके बाद, हमने संभावित जोखिमों और पूर्वाग्रहों की पहचान करने और उन्हें शुरुआती एआई विकास चक्र में कम करने के लिए एक मजबूत समीक्षा प्रक्रिया विकसित की। इस बहु-भाग समीक्षा ने हमें सुविधाओं और उत्पादों की पहचान करने और संबोधित करने में मदद की जो हानिकारक पूर्वाग्रह और रूढ़िवादिता को बढ़ावा दे सकते हैं।

जैसे ही जनरेटिव एआई उभरा, हमने नए नैतिक चुनौतियों को संबोधित करने के लिए अपनी एआई नैतिकता मूल्यांकन को अनुकूलित किया। यह प्रक्रिया ने हमें संभावित मुद्दों से आगे रहने की अनुमति दी है, यह सुनिश्चित करते हुए कि हमारी एआई प्रौद्योगिकियां जिम्मेदारी से विकसित और तैनात की जाती हैं। हमारी निरंतर सीखने और संगठन भर में विभिन्न टीमों के साथ सहयोग करने की प्रतिबद्धता हमारे एआई नैतिकता कार्यक्रम की प्रासंगिकता और प्रभावशीलता को बनाए रखने में महत्वपूर्ण रही है, अंततः हमारे ग्राहकों को जो अनुभव प्रदान करते हैं उसे बढ़ाते हुए और समावेशिता को बढ़ावा देते हैं।

एडोबी के एआई नैतिकता सिद्धांत – जवाबदेही, जिम्मेदारी और पारदर्शिता – दैनिक संचालन में कैसे अनुवाद करते हैं? क्या आप कुछ उदाहरण दे सकते हैं कि इन सिद्धांतों ने एडोबी के एआई परियोजनाओं को कैसे मार्गदर्शन किया है?

हम अपने एआई संचालित सुविधाओं में एडोबी की एआई नैतिकता प्रतिबद्धताओं का पालन करते हैं और जिम्मेदार नवाचार सुनिश्चित करने के लिए मजबूत इंजीनियरिंग अभ्यासों को लागू करते हैं, जबकि हमारे कर्मचारियों और ग्राहकों से निरंतर प्रतिक्रिया एकत्र करते हैं ताकि आवश्यक समायोजन की अनुमति मिल सके।

नए एआई सुविधाओं को एक व्यापक नैतिकता मूल्यांकन से गुजरना पड़ता है ताकि संभावित पूर्वाग्रहों और जोखिमों की पहचान की जा सके और उन्हें कम किया जा सके। जब हमने एडोबी फायरफ्लाई, हमारे जनरेटिव एआई मॉडल के परिवार को पेश किया, तो इसे हानिकारक रूढ़िवादिता को बढ़ावा देने वाली सामग्री को जनरेट करने से रोकने के लिए मूल्यांकन किया गया था। यह मूल्यांकन एक प्रक्रिया है जो उत्पाद टीमों के साथ घनिष्ठ सहयोग में, प्रतिक्रिया और सीखने को एकीकृत करके विकसित होती रहती है। हम उत्पाद टीमों के साथ जोखिम खोज अभ्यास भी करते हैं ताकि डिजाइन के लिए उपयुक्त परीक्षण और प्रतिक्रिया तंत्र को समझा जा सके।

एडोबी हानिकारक पूर्वाग्रह से संबंधित चिंताओं को कैसे संबोधित करता है, विशेष रूप से एक वैश्विक, विविध उपयोगकर्ता आधार द्वारा उपयोग किए जाने वाले उपकरणों में? क्या आप एक विशिष्ट एआई सुविधा में पूर्वाग्रह की पहचान और कम करने के तरीके का एक उदाहरण दे सकते हैं?

हम अपने एआई नैतिकता मूल्यांकन और समीक्षा प्रक्रियाओं को निरंतर विकसित कर रहे हैं, जो हमारी उत्पाद और इंजीनियरिंग टीमों के साथ घनिष्ठ सहयोग में है। एआई नैतिकता मूल्यांकन जो हमारे पास कुछ वर्षों पहले था, वह अब अलग है, और मुझे लगता है कि भविष्य में अतिरिक्त परिवर्तन होंगे। यह प्रक्रिया हमें नई सीख और उभरती नैतिक चिंताओं को संबोधित करने की अनुमति देती है क्योंकि प्रौद्योगिकियां जैसे फायरफ्लाई विकसित होती हैं।

उदाहरण के लिए, जब हमने फायरफ्लाई में बहुभाषी समर्थन जोड़ा, तो मेरी टीम ने देखा कि यह अपेक्षित आउटपुट नहीं दे रहा था और कुछ शब्दों को अनजाने में ब्लॉक कर दिया गया था। इसे कम करने के लिए, हमने अपनी अंतर्राष्ट्रीयकरण टीम और मूल वक्ताओं के साथ मिलकर काम किया ताकि हमारे मॉडल का विस्तार किया जा सके और देश-विशिष्ट शब्दों और अर्थों को शामिल किया जा सके।

हमारी मूल्यांकन दृष्टिकोण को विकसित करने की प्रतिबद्धता एडोबी को नवाचार के साथ नैतिक जिम्मेदारी को संतुलित करने में मदद करती है। एक समावेशी और प्रतिक्रियाशील प्रक्रिया को बढ़ावा देकर, हम सुनिश्चित करते हैं कि हमारी एआई प्रौद्योगिकियां पारदर्शिता और अखंडता के उच्चतम मानकों को पूरा करती हैं, जो रचनाकारों को हमारे उपकरणों का उपयोग आत्मविश्वास से करने में सक्षम बनाती हैं।

सार्वजनिक नीति को आकार देने में आपकी भागीदारी के साथ, एडोबी तेजी से बदलते एआई नियमों और नवाचार के बीच के इंटरफेस को कैसे नेविगेट करता है? एडोबी इन नियमों को आकार देने में क्या भूमिका निभाता है?

हम नीति निर्माताओं और उद्योग समूहों के साथ सक्रिय रूप से जुड़ते हैं ताकि नवाचार के साथ नैतिक विचारों को संतुलित करने वाली नीति को आकार देने में मदद मिल सके। हमारे नीति निर्माताओं के साथ चर्चा हमारे एआई दृष्टिकोण और मानव अनुभवों को बढ़ाने के लिए प्रौद्योगिकी विकसित करने के महत्व पर केंद्रित है। नियामक वर्तमान चुनौतियों का समाधान करने के लिए व्यावहारिक समाधान चाहते हैं और हमारे एआई नैतिकता सिद्धांतों जैसे फ्रेमवर्क को प्रस्तुत करके, जो सहयोग से विकसित और लगातार हमारे एआई संचालित सुविधाओं में लागू किया जाता है, हम अधिक उत्पादक चर्चा को बढ़ावा देते हैं। यह महत्वपूर्ण है कि हम वास्तविक दुनिया के प्रभाव को दिखाने के लिए कोने में मूर्त उदाहरण लेकर आएं और सिद्धांतों के कार्य में कैसे काम करते हैं, इसके बजाय अमूर्त अवधारणाओं पर बात करते हैं।

एडोबी एआई मॉडल के लिए प्रशिक्षण डेटा सourcing करते समय कौन से नैतिक विचारों को प्राथमिकता देता है, और यह डेटासेट का उपयोग करने में नैतिक और पर्याप्त रूप से मजबूत होने के लिए कैसे सुनिश्चित करता है?

एडोबी में, हम अपने एआई मॉडल के लिए प्रशिक्षण डेटा सोर्सिंग करते समय कई प्रमुख नैतिक विचारों को प्राथमिकता देते हैं। हमारे प्रयासों में से एक यह सुनिश्चित करना है कि हमारे डेटासेट विविध और पूर्वाग्रह-मुक्त हों। हम अपने डेटासेट को लाइसेंस प्राप्त सामग्री जैसे एडोबी स्टॉक और सार्वजनिक डोमेन सामग्री पर प्रशिक्षित करते हैं जहां कॉपीराइट समाप्त हो गया है। हम यह भी सुनिश्चित करते हैं कि हमारे डेटासेट में विभिन्न दृष्टिकोण और संस्कृतियों का प्रतिनिधित्व किया जाता है ताकि हमारे मॉडल के आउटपुट में हानिकारक पूर्वाग्रह और रूढ़िवादिता को बढ़ावा देने वाली सामग्री शामिल न हो।

आपके विचार में, एडोबी के एआई सिस्टम जैसे फायरफ्लाई को प्रशिक्षित करने और उपयोग किए जाने वाले डेटा के बारे में उपयोगकर्ताओं को सूचित करने में पारदर्शिता कितनी महत्वपूर्ण है?

पारदर्शिता एडोबी के जनरेटिव एआई सुविधाओं जैसे फायरफ्लाई को प्रशिक्षित करने और उपयोग किए जाने वाले डेटा के बारे में उपयोगकर्ताओं को सूचित करने में महत्वपूर्ण है। यह हमारी प्रौद्योगिकियों में विश्वास और विश्वास बनाने में मदद करता है क्योंकि उपयोगकर्ता यह समझते हैं कि हमारे जनरेटिव एआई विकास के पीछे की प्रक्रिया क्या है। डेटा स्रोतों, प्रशिक्षण विधियों और हमारे द्वारा लागू किए गए नैतिक सुरक्षा उपायों के बारे में खुले रहने से, हम उपयोगकर्ताओं को सूचित निर्णय लेने में सक्षम बनाते हैं कि वे हमारे उत्पादों के साथ कैसे बातचीत करते हैं। यह पारदर्शिता न केवल हमारे मूल एआई नैतिकता सिद्धांतों के साथ संरेखित है, बल्कि हमारे उपयोगकर्ताओं के साथ एक सहयोगी संबंध को भी बढ़ावा देती है।

एआई के बढ़ते पैमाने पर, विशेष रूप से जनरेटिव एआई के साथ, आपको लगता है कि भविष्य में एडोबी जैसी कंपनियों को किन सबसे महत्वपूर्ण नैतिक चुनौतियों का सामना करना पड़ेगा?

मुझे लगता है कि एडोबी जैसी कंपनियों के लिए सबसे महत्वपूर्ण नैतिक चुनौतियां हानिकारक पूर्वाग्रह को कम करना, समावेशिता सुनिश्चित करना और उपयोगकर्ता विश्वास बनाए रखना होंगी। जनरेटिव एआई के साथ, हानिकारक और भ्रामक सामग्री को जनरेट करने की संभावना एक चिंता का विषय है जिसे लगातार निगरानी और मजबूत सुरक्षा उपायों की आवश्यकता होती है। उदाहरण के लिए, जनरेटिव एआई के हालिया प्रगति के साथ, यह “बुरे अभिनेताओं” के लिए पहले से कहीं ज्यादा आसान हो गया है कि वे भ्रामक सामग्री बना सकें, गलत सूचना फैला सकें और सार्वजनिक राय को हेरफेर कर सकें, जो विश्वास और पारदर्शिता को कमजोर करता है।

इसे संबोधित करने के लिए, एडोबी ने 2019 में कंटेंट ऑथेंटिकिटी इनिशिएटिव (सीएआई) की स्थापना की ताकि एक अधिक विश्वसनीय और पारदर्शी डिजिटल पारिस्थितिकी तंत्र का निर्माण किया जा सके। सीएआई हमारे ऑनलाइन विश्वास और प्रामाणिकता को बनाने के लिए एक समाधान लागू करता है – जिसे कंटेंट क्रेडेंशियल्स कहा जाता है। कंटेंट क्रेडेंशियल्स में निर्माता का नाम, छवि बनाने की तारीख, उपयोग किए गए उपकरण और किए गए संपादन जैसी जानकारी शामिल होती है। यह उपयोगकर्ताओं को एक डिजिटल श्रृंखला của विश्वास और प्रामाणिकता बनाने में सक्षम बनाता है।

जैसे ही जनरेटिव एआई आगे बढ़ता है, डिजिटल सामग्री में विश्वास को बहाल करने के लिए कंटेंट क्रेडेंशियल्स को व्यापक रूप से अपनाने के लिए इसका महत्व और भी बढ़ जाएगा।

एआई विकास के लिए नैतिक फ्रेमवर्क के बारे में सोच रहे अन्य संगठनों को आपकी क्या सलाह होगी?

मेरी सलाह यह होगी कि वे सरल, व्यावहारिक और कार्रवाई योग्य सिद्धांतों से शुरू करें जो उनके प्रयासों को मार्गदर्शन कर सकते हैं। अक्सर, मैं देखती हूं कि कंपनियां या संगठन सिद्धांतों पर ध्यान केंद्रित करती हैं जो सिद्धांत रूप में अच्छे लगते हैं, लेकिन व्यावहारिक नहीं हैं। हमारे सिद्धांतों का कारण यह है कि वे समय की कसौटी पर खरे उतरते हैं क्योंकि हमने उन्हें कार्रवाई योग्य बनाने के लिए डिज़ाइन किया है। जब हम अपनी एआई संचालित सुविधाओं का मूल्यांकन करते हैं, तो हमारी उत्पाद और इंजीनियरिंग टीमें जानती हैं कि हम क्या देख रहे हैं और उनसे क्या अपेक्षा की जाती है।

मैं संगठनों को यह भी सलाह दूंगा कि वे इस प्रक्रिया में आते हैं कि यह एक प्रक्रिया होगी। मुझे नहीं पता कि एडोबी पांच या दस साल में क्या आविष्कार करेगा, लेकिन मुझे पता है कि हम अपने मूल्यांकन को उन नवाचारों और प्राप्त प्रतिक्रिया के अनुसार विकसित करेंगे।

धन्यवाद इस शानदार साक्षात्कार के लिए, पाठक जो और जानना चाहते हैं उन्हें एडोबी पर जाना चाहिए।