डिज़ाइन द्वारा जिम्मेदार – क्यों एआई को मानव-केंद्रित होना चाहिए

आर्टिफिशियल इंटेलिजेंस हमारे दैनिक जीवन को परिभाषित करने वाले डिजिटल अनुभवों को बदल रहा है। व्यक्तिगत उत्पाद सिफारिशों और पूर्वानुमान स्वास्थ्य सेवा से लेकर स्वायत्त ड्राइविंग और यहां तक कि मनोरंजन पार्क की लाइनों तक, एआई उन अनुभवों को सस्ता, अधिक कुशल और यहां तक कि आनंददायक बना रहा है। कम से कम, यह वादा है।

लेकिन बहुत बार, हम ऐसी सुर्खियों का सामना करते हैं जो “एआई विफलता” के बारे में बताती हैं – जब उपयोगकर्ता भ्रमित, निराश या बस समझ में नहीं आते हैं। और जब विश्वास टूट जाता है, तो एआई की वास्तव में अर्थपूर्ण और प्रभावी होने की क्षमता भी टूट जाती है।

सार्वजनिक विश्वास कम हो रहा है। क्यों? क्योंकि अधिकांश प्रणालियों को मानव अनुभव के साथ डिज़ाइन नहीं किया गया है – वे तेज़, स्केलेबल और लाभदायक के लिए डिज़ाइन किए गए हैं। यह सभी आकार की कंपनियों के लिए एक बड़ा कारण चिंता का विषय होना चाहिए जो अपने एआई निवेश पर दोगुना कर रहे हैं।

विश्वास बनाने के लिए, कंपनियों को रुकने और गहरे प्रश्न पूछने की आवश्यकता है: हम यह प्रणाली क्यों बना रहे हैं? क्या इसे पहले स्थान पर बनाया जाना चाहिए? संक्षेप में, क्या हम मानव आवश्यकताओं की सेवा के लिए एआई को डिज़ाइन कर रहे हैं – या मानवों को मशीन तर्क के अनुकूल बनाने के लिए मजबूर कर रहे हैं?

एआई के साथ विश्वास अंतर

अक्सर, एआई को अलग-अलग तकनीकी वातावरण में विकसित किया जाता है, जहां सफलता को सटीकता या गति द्वारा मापा जाता है, और न सामाजिक प्रभाव या उपयोगिता द्वारा। नैतिक सोच, जो विश्वास का एक मूल घटक है, एआई विकास पाइपलाइन में स्वचालित रूप से शामिल नहीं है। यह डिस्कनेक्ट उन प्रणालियों के परिणामस्वरूप होता है जो सिद्धांत में नवीन हो सकती हैं, लेकिन अभ्यास में कम पड़ती हैं।

उदाहरण के लिए, एयर कनाडा के चैटबॉट ने एक ग्राहक को अपनी शोक स्थिति किराया नीति के बारे में गलत जानकारी दी, केवल यह तर्क देने के लिए कि कंपनी चैटबॉट द्वारा कही गई बातों के लिए जिम्मेदार नहीं थी। या मेटा के एआई चैटबॉट ने, जिसने खोज परिणामों में तथ्यात्मक रूप से गलत बयान दिए। ये उदाहरण केवल तकनीकी ग्लिच नहीं हैं; वे मानवता, सुरक्षा गार्डरेल और वास्तविक दुनिया के संदर्भ के साथ एआई अनुप्रयोगों को डिज़ाइन करने में व्यवस्थित विफलता को उजागर करते हैं।

सार्वजनिक ने इस पर ध्यान दिया है। प्यू रिसर्च सेंटर के अनुसार, 59% अमेरिकी और 55% एआई विशेषज्ञों का अमेरिकी कंपनियों पर एआई को जिम्मेदारी से विकसित करने का विश्वास नहीं है। यह एक विश्वास अंतर है जिसे हम नजरअंदाज नहीं कर सकते।

मानव-केंद्रित डिज़ाइन एक विलासिता नहीं है

डिज़ाइन एआई के लिए खिड़की की सजावट नहीं है। यह इसके व्यवहार और इसके द्वारा उपयोगकर्ताओं द्वारा कैसे देखा जाता है, इसके लिए मूलभूत है। मानव-केंद्रित डिज़ाइन उन लोगों को समझने से शुरू होता है जिनके लिए हम डिज़ाइन कर रहे हैं: उनके लक्ष्य, निराशाएं, मूल्य और जीवन की वास्तविकता।

डिज़ाइन प्रक्रिया के दौरान यह आवश्यक है कि हम बहुत विशिष्ट प्रश्न पूछें ताकि यह सुनिश्चित हो सके कि प्रौद्योगिकी मानव आवश्यकताओं की सेवा करती है, न कि इसके विपरीत, परिभाषित करने के लिए:

• हम किसके लिए डिज़ाइन कर रहे हैं?
• उनके लक्ष्य, मूल्य और चुनौतियां क्या हैं?
• वे भावनात्मक और कार्यात्मक रूप से प्रणालियों के साथ कैसे बातचीत करते हैं?
• क्या उत्पाद विश्वसनीय है और यह वही करता है जो यह कहता है कि यह करने जा रहा है?
• क्या यह विभिन्न प्रकार के लोगों के लिए समावेशी और सुलभ है?

ये अमूर्त प्रश्न नहीं हैं। वे सीधे तौर पर यह आकार देते हैं कि एआई वास्तविक दुनिया में कैसे प्रदर्शन करता है। और स्वास्थ्य सेवा, सुरक्षा या शिक्षा जैसे उच्च जोखिम वाले संदर्भों में, वे यह निर्धारित कर सकते हैं कि क्या एक प्रणाली समावेशी और न्यायसंगत है या भ्रमित करने वाली और हानिकारक है।

एक बेहतर डिज़ाइन क्या दिखता है

डिज़ाइनर मानव आवश्यकताओं को मशीन क्षमताओं के साथ प्रोटोटाइप, परीक्षण और पुनरावृत्ति की प्रक्रिया के माध्यम से जोड़ते हैं, जो यह सुनिश्चित करता है कि उत्पाद उन लोगों के लिए समझ में आते हैं जो उनका उपयोग कर रहे हैं। इसमें यह प्रश्न शामिल है कि एआई कैसे संवाद करता है, यह कौन से निर्णय स्वचालित करता है, और यह उपयोगकर्ता को कितना नियंत्रण प्रदान करता है।

मनोरंजन पार्कों को एक उदाहरण के रूप में लें। एआई को इस गर्मी में तैनात किया जा रहा है प्रतीक्षा समय को कम करने, अनुभवों को व्यक्तिगत करने और भीड़ प्रवाह को प्रबंधित करने के लिए। यह एक आशाजनक उपयोग का मामला है। लेकिन सफलता केवल प्रवाह के बारे में नहीं है। एक अच्छी तरह से डिज़ाइन की गई प्रणाली मानव अनुभव को प्राथमिकता देगी, न कि केवल दक्षता। इसका मतलब है पारदर्शी संदेश, सहज ज्ञान युक्त इंटरफेस, स्पष्ट ऑप्ट-इन, और उन उपयोगकर्ताओं के लिए फॉलबैक विकल्प जिनकी विशिष्ट आवश्यकताएं हैं (जैसे स्मार्टफोन के बिना परिवार या पहुंच वाले मेहमान)।

यहां का अवसर यह नहीं है कि केवल लॉजिस्टिक्स व्यवसाय संचालन को लाभ के पक्ष में अनुकूलित किया जाए; यह मानव अनुभव को बढ़ाने, घर्षण को कम करने और साझा अनुभवों को बनाने का अवसर है जो जादुई महसूस करते हैं, न कि यांत्रिक।

मानव तत्व का परीक्षण

मानव-केंद्रित एआई डिज़ाइन में, परीक्षण महत्वपूर्ण है। यह आदर्श है कि संभावित अंतिम उपयोगकर्ताओं को प्रक्रिया में शुरू से ही और अक्सर लाया जाए, संभावित अंधे धब्बे की पहचान करने के उद्देश्य से। जब उपयोगकर्ता एक प्रणाली को समझ या विश्वास नहीं कर सकते हैं, तो प्रणाली विफल हो जाती है, चाहे इसका बैकएंड कितना भी प्रभावशाली क्यों न हो।

परीक्षण सुलभता को भी सुनिश्चित करता है, जो अक्सर एआई संचालित अनुभवों में उपेक्षित होती है। एक चैटबॉट तकनीकी रूप से कार्यात्मक हो सकता है, लेकिन यदि यह तंत्रिका विविध उपयोगकर्ताओं या गैर-मूल भाषी बोलने वालों की सेवा नहीं करता है, तो यह वास्तव में कार्यात्मक नहीं है। समावेशी डिज़ाइन केवल हाशिए पर लोगों को लाभ नहीं पहुंचाता है, यह सभी के लिए उत्पादों को मजबूत करता है।

जिम्मेदारी डिज़ाइन से शुरू होती है

नीतियां सीमाएं निर्धारित करने और सबसे खराब परिणामों को रोकने में मदद कर सकती हैं। इसलिए, ईयू एआई अधिनियम और एआई बिल ऑफ राइट्स के लिए ब्लूप्रिंट जैसे ढांचे महत्वपूर्ण कदम हैं। लेकिन अनुपालन केवल फर्श है। डिज़ाइन है कि हम छत तक कैसे पहुंचते हैं।

कंपनियों को चेकलिस्ट से परे जाने और एआई प्रणालियों का निर्माण करने की आवश्यकता है जो गरिमा, एजेंसी और पर्यवेक्षण का समर्थन करती हैं। इसका मतलब है कि मानव निर्णय को पूरी तरह से स्वचालित करने के लिए प्रतिरोध करना, और इसके बजाय ऐसे उपकरणों को डिज़ाइन करना जो इसे बढ़ाते हैं। जिम्मेदार एआई मानव नियंत्रण को मिटा नहीं देता है; इसके विपरीत, यह इसे बढ़ाता है।

यह काम केवल तकनीकी नहीं है। इसके लिए डिज़ाइनरों, इंजीनियरों, नीति विशेषज्ञों और नैतिकविदों की बहु-विषयक टीमों की आवश्यकता होती है जो दिन एक से मिलकर काम करते हैं। इसका मतलब है कि लोगों के साथ डिज़ाइन करना, केवल उनके लिए नहीं।

एआई को आकार देने में डिज़ाइनरों की भूमिका

डिज़ाइनर एआई की दिशा को आकार देने में एक अनोखी भूमिका निभाते हैं। वे मशीनों के संरचित तर्क और मानव जीवन की जटिलता दोनों में प्रवीण अनुवादक हैं। डिज़ाइनरों को यह पहचानने के लिए प्रशिक्षित किया जाता है कि घर्षण बिंदु, भावनात्मक संकेत और सामाजिक प्रभाव जो डेटा अकेले पकड़ नहीं सकते हैं।

इसी तरह के विशिष्ट प्रश्न जो सुनिश्चित करते हैं कि प्रौद्योगिकी मानव आवश्यकताओं की सेवा करती है, डिज़ाइनरों को उन प्रश्नों की वकालत करने की आवश्यकता है जो प्रशिक्षण डेटा में सुंदर रूप से फिट नहीं होते हैं, जैसे:

• किसी को यह कैसा महसूस कराता है?
• क्या उपयोगकर्ता नियंत्रण में है?
• जब चीजें गलत हो जाती हैं तो क्या होता है?

अक्सर, डिज़ाइन को एआई पाइपलाइन के अंत में लाया जाता है ताकि यह “दिखने में अच्छा” बनाया जा सके। लेकिन डिज़ाइन की सच्ची शक्ति रणनीतिक है। यह समस्याओं को परिभाषित करने के तरीके को आकार देना चाहिए, न कि केवल इंटरफेस कैसा दिखता है।

मानव-पहले, न कि मशीन-पहले

एआई केवल एक तकनीकी चुनौती नहीं है, यह एक डिज़ाइन चुनौती है। और इसे पूरा करने के लिए, हमें शुरू से ही मानव मूल्यों पर केंद्रित करना होगा।

मानव-केंद्रित एआई एक विलासिता नहीं है – यह एक आवश्यकता है। यह प्रणालियों का निर्माण करता है जो विश्वसनीय, विश्वसनीय, पूर्वाग्रह रहित, लेखा परीक्षित और अनुपालन हैं। लेकिन इससे भी अधिक, यह ऐसे उत्पादों का निर्माण करता है जो अंतिम उपयोगकर्ता को लाभ पहुंचाते हैं और मानव उत्पादकता और संभावना को बढ़ाते हैं।

हमारे पास उपकरण हैं और हमारे पास जिम्मेदारी है एक ऐसा भविष्य डिज़ाइन करने के लिए जहां प्रौद्योगिकी लोगों की सेवा करती है, न कि इसके विपरीत। वह भविष्य डिज़ाइन से शुरू होता है।