рд╡рд┐рдЪрд╛рд░ рдиреЗрддрд╛
AI-First рдХрд╛ рдЕрд░реНрде рд╣реИ Safety-First
किसी बच्चे को एक नई साइकिल खरीदने के लिए दें, और साइकिल ही सभी का ध्यान आकर्षित करेगी – न कि उसके साथ आने वाला चमकदार हेलमेट। लेकिन माता-पिता हेलमेट की सराहना करते हैं।
मुझे डर है कि आज हममें से अधिकांश लोग एआई के मामले में बच्चों की तरह हैं। हम इसकी शीतलता और इसके साथ कितनी तेजी से जा सकते हैं, इस पर ध्यान केंद्रित कर रहे हैं। इसका उपयोग करते समय सुरक्षित रहने के लिए हम क्या कर सकते हैं, इस पर नहीं। यह दुर्भाग्यपूर्ण है क्योंकि आप एक का लाभ दूसरे के बिना नहीं ले सकते।
साधारण शब्दों में, सुरक्षा के लिए सावधानीपूर्वक योजना बनाए बिना एआई को लागू करना न केवल जोखिम भरा है, यह एक पथ है जो एक पहाड़ी से नीचे जाता है।
एआई सुरक्षा का अर्थ क्या है?
एआई सुरक्षा में कई चरण शामिल हैं। लेकिन शायद सबसे महत्वपूर्ण तत्व यह है कि कब उन्हें लेना है। प्रभावी होने के लिए, एआई सुरक्षा को डिज़ाइन द्वारा होना चाहिए।
इसका अर्थ है कि हम इसका परीक्षण चलाने से पहले हानि को रोकने के तरीके पर विचार करते हैं। हम यह सुनिश्चित करने के तरीके सोचते हैं कि एआई हमारे मूल्यों और सामाजिक अपेक्षाओं के अनुसार परिणाम देता है और संचालित होता है, न कि हमें भयानक परिणाम मिलने के बाद।
एआई सुरक्षा के लिए डिज़ाइन करने में यह भी शामिल है कि इसे मजबूत, या खराब स्थितियों में भी सटीक रूप से प्रदर्शन करने में सक्षम बनाने के बारे में सोचना। इसका अर्थ है एआई को पारदर्शी बनाना, ताकि एआई द्वारा लिए गए निर्णय समझने योग्य, लेखा परीक्षित और पूर्वाग्रह से मुक्त हों।
लेकिन इसमें यह भी शामिल है कि एआई कार्य करने वाली दुनिया पर एक नज़र डालें। विशेष रूप से लागू सरकारी नियमों का पालन करने के लिए हमें कौन से संस्थागत और कानूनी सुरक्षा उपायों की आवश्यकता है? और मैं लोगों के घटक पर जोर नहीं दे सकता: एआई के साथ बातचीत करने वाले लोगों पर इसका उपयोग क्या प्रभाव पड़ेगा?
सुरक्षा डिज़ाइन का अर्थ है कि हम एआई सुरक्षा को अपनी सभी प्रक्रियाओं, कार्य प्रवाह और संचालन में पहले ही शामिल कर लें, इससे पहले कि हम अपना पहला प्रोम्प्ट टाइप करें।
जोखिम चिंताओं से अधिक हैं
सभी सहमत नहीं हैं। जब वे “सुरक्षा-पहले” सुनते हैं, तो कुछ “इतनी सावधानी से और धीरे-धीरे कदम रखें कि आप पीछे छूट जाएं” सुनते हैं। बिल्कुल, यही सुरक्षा पहले का अर्थ है। इसका अर्थ यह नहीं है कि नवाचार को दबाना है या समय-समय पर बाजार में उतारना है। और इसका अर्थ यह नहीं है कि ऐसे पायलट की एक अंतहीन धारा है जो कभी भी स्केल नहीं करती है। इसके विपरीत।
इसका अर्थ है एआई में सुरक्षा को डिज़ाइन नहीं करने के जोखिमों को समझना। कुछ पर विचार करें।
- Deloitte’s Center for Financial Services का अनुमान है कि GenAI 2027 तक अमेरिका में अकेले 40 अरब डॉलर के नुकसान के लिए जिम्मेदार हो सकता है, जो 2023 में 12.3 अरब डॉलर से 32% की वार्षिक वृद्धि दर है।
- पूर्वाग्रहपूर्ण निर्णय। मामले पूर्वाग्रहपूर्ण चिकित्सा देखभाल का दस्तावेजीकरण करते हैं जो पूर्वाग्रहपूर्ण डेटा पर प्रशिक्षित एआई के कारण होता है।
- बुरे निर्णय जो और भी बुरे निर्णयों को प्रेरित करते हैं। एआई द्वारा उत्प्रेरित एक प्रारंभिक बुरे निर्णय से भी बदतर, अध्ययन संकेत देते हैं कि वे बुरे निर्णय हमारे विचारों और भविष्य के निर्णयों में शामिल हो सकते हैं।
- वास्तविक परिणाम. खराब चिकित्सा सलाह देने वाले एआई के लिए जिम्मेदार होने के कारण घातक रोगी परिणाम हुए हैं। कानूनी मुद्दे एआई की कल्पना को कानूनी पूर्वगामी के रूप में उद्धृत करने से उत्पन्न हुए हैं। और एआई सहायक द्वारा गलत जानकारी देने से सॉफ्टवेयर त्रुटियां हुई हैं जो कंपनी के उत्पादों और उनकी प्रतिष्ठा को प्रभावित करती हैं और व्यापक उपयोगकर्ता असंतोष का कारण बनती हैं।
और चीजें और भी दिलचस्प होने वाली हैं।
एजेंटिक एआई का आगमन और तेजी से अपनाने से एआई सुरक्षा के डिजाइन का महत्व बढ़ जाएगा।
एक एआई एजेंट जो आपकी ओर से कार्य कर सकता है, बहुत उपयोगी हो सकता है। आपको यात्रा के लिए सर्वोत्तम उड़ानों के बारे में बताने के बजाय, यह उन्हें खोज सकता है और आपके लिए बुक कर सकता है। यदि आप किसी उत्पाद को वापस करना चाहते हैं, तो कंपनी का एआई एजेंट न केवल रिटर्न नीति और रिटर्न फाइल करने के तरीके के बारे में बता सकता है, बल्कि पूरी लेनदेन को भी संभाल सकता है।
महान – जब तक कि एजेंट किसी उड़ान की कल्पना न करे या आपकी वित्तीय जानकारी को गलत तरीके से संभाले। या कंपनी की रिटर्न नीति को गलत बताए और वैध रिटर्न से इनकार करे।
यह देखना मुश्किल नहीं है कि मौजूदा एआई सुरक्षा जोखिम कैसे आसानी से एजेंटिक एआई के साथ बढ़ सकते हैं, जो निर्णय लेते हैं और कार्य करते हैं, खासकर जब वे अकेले कार्य नहीं करेंगे। एजेंटिक एआई का वास्तविक मूल्य एजेंटों की टीमों से आएगा, जहां व्यक्तिगत एजेंट कार्यों के हिस्सों को संभालते हैं और काम पूरा करने के लिए एजेंट से एजेंट के साथ सहयोग करते हैं।
तो आप बिना नवाचार को बाधित किए और इसके संभावित मूल्य को मारे बिना डिज़ाइन में एआई सुरक्षा को कैसे अपना सकते हैं?
डिज़ाइन में सुरक्षा
अधःसंरचना सुरक्षा जांच इसका उत्तर नहीं है। लेकिन एआई कार्यान्वयन के प्रत्येक चरण में सुरक्षा प्रथाओं को एकीकृत करना है।
डेटा से शुरू करें। सुनिश्चित करें कि डेटा लेबल किया गया है, जहां आवश्यक हो वहां एनोटेट किया गया है, पूर्वाग्रह मुक्त है और उच्च गुणवत्ता वाला है। यह विशेष रूप से प्रशिक्षण डेटा के लिए सच है।
मानव प्रतिक्रिया के साथ अपने मॉडल को प्रशिक्षित करें, क्योंकि मानव निर्णय मॉडल व्यवहार को आकार देने के लिए आवश्यक है। रीनफोर्समेंट लर्निंग विद ह्यूमन फीडबैक (आरएलएचएफ) और अन्य समान तकनीकें एनोटेटर्स को रेटिंग और गाइड रिस्पॉन्स की अनुमति देती हैं, जो एलएलएम को सुरक्षित और मानव मूल्यों के साथ संरेखित आउटपुट उत्पन्न करने में मदद करती हैं।
फिर, मॉडल जारी करने से पहले, इसे तनाव परीक्षण करें। लाल टीमें जो प्रतिकूल प्रोम्प्ट, एज केस और प्रयास किए गए जेलब्रेक का उपयोग करके असुरक्षित व्यवहार को उत्तेजित करने का प्रयास करती हैं, कमजोरियों को उजागर कर सकती हैं। उन्हें समस्या होने से पहले उन्हें ठीक करना सुरक्षित रखता है।
जबकि यह परीक्षण सुनिश्चित करता है कि आपके एआई मॉडल मजबूत हैं, नई खतरों और संभावित रूप से मॉडल में आवश्यक समायोजन पर नजर रखकर उन्हें निगरानी रखें।
इसी तरह, धोखाधड़ी के संकेतों के लिए सामग्री स्रोतों और डिजिटल इंटरैक्शन पर नज़र रखें। महत्वपूर्ण रूप से, एआई-मानव दृष्टिकोण का उपयोग करें, एआई-स्वचालन को डेटा की बड़ी मात्रा की निगरानी करने दें, और कुशल मानव समीक्षा के लिए प्रवर्तन और सटीकता सुनिश्चित करने के लिए।
एजेंटिक एआई को लागू करने से अधिक सावधानी की आवश्यकता है। एक मूलभूत आवश्यकता: एजेंट को उसकी सीमाओं को सिखाएं। जब यह अनिश्चितता, नैतिक संघर्ष, नई स्थितियों या विशेष रूप से उच्च जोखिम वाले निर्णयों का सामना करता है, तो सुनिश्चित करें कि यह जानता है कि मदद मांगने के लिए कैसे।
इसके अलावा, अपने एजेंटों में ट्रेसबिलिटी डिज़ाइन करें। यह विशेष रूप से महत्वपूर्ण है ताकि इसकी बातचीत केवल सत्यापित उपयोगकर्ताओं के साथ हो, धोखाधड़ी वाले अभिनेताओं को एजेंट की क्रियाओं को प्रभावित करने से रोकने के लिए।
यदि वे प्रभावी ढंग से काम करते लगते हैं, तो उन्हें छोड़ देने और उन्हें अपना काम करने देने के लिए यह लुभावना हो सकता है। हमारा अनुभव कहता है कि उन्हें और उन कार्यों की निगरानी करना जिन्हें वे पूरा कर रहे हैं, ताकि त्रुटियों या अप्रत्याशित व्यवहार के लिए देखा जा सके। स्वचालित जांच और मानव समीक्षा दोनों का उपयोग करें।
वास्तव में, एआई सुरक्षा का एक आवश्यक तत्व नियमित मानव जुड़ाव है। मानवों को जानबूझकर शामिल किया जाना चाहिए जहां महत्वपूर्ण निर्णय, सहानुभूति या निर्णय या क्रिया में अस्पष्टता और अस्पष्टता शामिल है।
फिर से, स्पष्ट करने के लिए, ये सभी प्रथाएं हैं जिन्हें आप पहले से ही एआई कार्यान्वयन में निर्मित करते हैं, डिज़ाइन द्वारा। वे कुछ गलत होने और फिर नुकसान को कम करने के तरीके पर तेजी से विचार करने का परिणाम नहीं हैं।
क्या यह काम करता है?
हम अपने ग्राहकों के साथ जेनएआई के उदय और अब एजेंटिक एआई के तेजी से ट्रैक पर एआई सुरक्षा पहले के दर्शन और “डिज़ाइन द्वारा” ढांचे को लागू कर रहे हैं। हम पाते हैं कि इसके बारे में चिंताओं के विपरीत, यह वास्तव में उन्हें तेजी से बढ़ावा देता है।
एजेंटिक एआई ग्राहक सहायता की लागत को 25-50% तक कम कर सकता है, जबकि ग्राहक संतुष्टि को बढ़ावा देता है। लेकिन यह सभी विश्वास पर निर्भर करता है।
मानवों को एआई पर भरोसा करना चाहिए, और एआई-सक्षम मानव एजेंटों या वास्तविक एआई एजेंटों के साथ बातचीत करने वाले ग्राहकों को अपने विश्वास को कमजोर करने वाली एक भी बातचीत का अनुभव नहीं होना चाहिए। एक खराब अनुभव एक ब्रांड में विश्वास को मिटा सकता है।
हम उस पर विश्वास नहीं करते जो सुरक्षित नहीं है। इसलिए, जब हम एआई को रोल आउट करने जा रहे हैं, तो हमें विश्वास है कि हम सुरक्षा को हर परत में निर्मित कर रहे हैं। और जब हम तैयार होते हैं और इसे स्केल करते हैं, तो हमें विश्वास होता है कि हम तेजी से कर सकते हैं।
एआई सुरक्षा को प्रथम स्थान पर लागू करना आपको अभिभूत करने वाला लग सकता है, लेकिन आप अकेले नहीं हैं। कई विशेषज्ञ हैं जो मदद कर सकते हैं और भागीदार हैं जो साझा कर सकते हैं कि उन्होंने क्या सीखा है और सीख रहे हैं ताकि आप एआई के मूल्य को सुरक्षित रूप से ले सकें बिना आपको धीमा किए।
एआई एक रोमांचक सवारी रही है, और जब यह सवारी तेज होती है, तो मुझे यह रोमांचक लगता है। लेकिन मैं यह भी खुश हूं कि मैं अपना हेलमेट पहने हुए हूं।
