जिम्मेदार डिज़ाइन द्वारा – क्यों एआई को मानव-पहला होना चाहिए

कृत्रिम बुद्धिमत्ता हमारे दैनिक जीवन को परिभाषित करने वाले डिजिटल अनुभवों को बदल रही है। व्यक्तिगत उत्पाद सिफारिशों और पूर्वानुमान स्वास्थ्य सेवा से लेकर स्वायत्त ड्राइविंग और यहां तक कि मनोरंजन पार्क की लाइनों तक, एआई उन अनुभवों को सस्ता, अधिक कुशल और यहां तक कि आनंददायक बना रहा है। कम से कम, यह वादा है।

लेकिन अक्सर, हम “एआई विफलताओं” के बारे में सुर्खियों का सामना करते हैं – ऐसे क्षण जब उपयोगकर्ता भ्रमित, निराश, या बस समझ में नहीं आते हैं। और जब विश्वास टूट जाता है, तो एआई की वास्तव में अर्थपूर्ण और प्रभावी होने की क्षमता भी टूट जाती है।

सार्वजनिक विश्वास कम हो रहा है। क्यों? क्योंकि अधिकांश प्रणालियों को मानव अनुभव के साथ डिज़ाइन नहीं किया गया है – वे तेज, स्केलेबल और लाभदायक के लिए डिज़ाइन किए गए हैं। यह सभी आकारों की कंपनियों के लिए एक बड़ा कारण चिंता का विषय होना चाहिए जो अपने एआई निवेश पर दोगुना कर रहे हैं।

विश्वास बनाने के लिए, कंपनियों को रुकना होगा और गहरे प्रश्न पूछने होंगे: हम यह प्रणाली क्यों बना रहे हैं? क्या इसे पहले स्थान पर बनाया जाना चाहिए? संक्षेप में, क्या हम मानवीय आवश्यकताओं की सेवा के लिए एआई को डिज़ाइन कर रहे हैं – या मानव को मशीन तर्क के अनुकूल बनाने के लिए मजबूर कर रहे हैं?

एआई के साथ विश्वास अंतर

अक्सर, एआई को अलग-अलग तकनीकी वातावरण में विकसित किया जाता है, जहां सफलता को सटीकता या गति द्वारा मापा जाता है, और नहीं सामाजिक प्रभाव या उपयोगिता द्वारा। नैतिक सोच, विश्वास का एक मूल घटक, स्वचालित रूप से एआई विकास पाइपलाइन में शामिल नहीं है। यह डिस्कनेक्ट उन प्रणालियों को परिणाम देता है जो सिद्धांत में नवीन हो सकती हैं, लेकिन अभ्यास में कम पड़ जाती हैं।

एयर कनाडा के चैटबॉट को लें, जिसने अपनी शोक नीति के बारे में एक ग्राहक को गलत जानकारी दी, केवल यह तर्क देने के लिए कि यह चैटबॉट द्वारा कही गई बात के लिए जिम्मेदार नहीं था। या मेटा के एआई चैटबॉट, जिसने खोज परिणामों में तथ्यात्मक रूप से गलत बयान दिए। ये उदाहरण केवल तकनीकी ग्लिच से अधिक हैं; वे एआई अनुप्रयोगों को सहानुभूति, सुरक्षा गार्डरेल और वास्तविक दुनिया के संदर्भ के साथ डिज़ाइन करने में विफलता को उजागर करते हैं।

सार्वजनिक ने ध्यान दिया है। प्यू रिसर्च सेंटर के अनुसार, 59% अमेरिकी और 55% एआई विशेषज्ञों का अमेरिकी कंपनियों पर एआई को जिम्मेदारी से विकसित करने का विश्वास नहीं है। यह एक विश्वास अंतर है जिसे हम नजरअंदाज नहीं कर सकते हैं।

मानव-केंद्रित डिज़ाइन एक विलासिता नहीं है

डिज़ाइन एआई के लिए खिड़की का सजावट नहीं है। यह इसके व्यवहार और इसके द्वारा अंतिम उपयोगकर्ताओं द्वारा इसके द्वारा कैसे महसूस किया जाता है, इसके लिए मूलभूत है।

यह डिज़ाइन प्रक्रिया के दौरान बहुत विशिष्ट प्रश्न पूछने के लिए आवश्यक है ताकि यह सुनिश्चित किया जा सके कि प्रौद्योगिकी मानवीय आवश्यकताओं की सेवा करती है, न कि इसके विपरीत, परिभाषित करती है:

• हम किसके लिए डिज़ाइन कर रहे हैं?
• उनके लक्ष्य, मूल्य और चुनौतियां क्या हैं?
• वे भावनात्मक और कार्यात्मक रूप से प्रणालियों के साथ कैसे बातचीत करते हैं?
• क्या उत्पाद विश्वसनीय है और यह वही करता है जो यह कहता है कि यह करने जा रहा है?
• क्या यह सभी प्रकार के लोगों के लिए समावेशिता और पहुंच को बढ़ावा देता है?

ये अमूर्त प्रश्न नहीं हैं। वे सीधे तौर पर यह आकार देते हैं कि एआई जंगल में कैसे प्रदर्शन करता है। और उच्च-जोखिम वाले संदर्भों में स्वास्थ्य सेवा, सुरक्षा या शिक्षा में, वे यह निर्धारित कर सकते हैं कि क्या एक प्रणाली समावेशी और न्यायसंगत है या भ्रमित और हानिकारक है।

एक बेहतर डिज़ाइन क्या दिखता है

डिज़ाइनर मानवीय आवश्यकताओं को मशीन क्षमताओं के साथ प्रोटोटाइप, परीक्षण और पुनरावृत्ति की प्रक्रिया के माध्यम से जोड़ते हैं, जो यह सुनिश्चित करता है कि उत्पाद उन लोगों के लिए समझ में आते हैं जो उनका उपयोग कर रहे हैं। इसमें एआई कैसे संवाद करता है, यह कौन से निर्णय स्वचालित करता है, और यह उपयोगकर्ता को कितना नियंत्रण प्रदान करता है, इसका प्रश्न शामिल है।

मनोरंजन पार्क को एक उदाहरण के रूप में लें। एआई को इस गर्मी में तैनात किया जा रहा है प्रतीक्षा समय को कम करने, अनुभवों को व्यक्तिगत बनाने और भीड़ प्रवाह को प्रबंधित करने के लिए। यह एक आशाजनक उपयोग का मामला है। लेकिन सफलता केवल थ्रूपुट के बारे में नहीं है। एक अच्छी तरह से डिज़ाइन की गई प्रणाली मानव अनुभव को प्राथमिकता देगी, न कि केवल दक्षता को। इसका मतलब पारदर्शी संदेश, सहज ज्ञान युक्त इंटरफेस, स्पष्ट ऑप्ट-इन, और विशिष्ट आवश्यकताओं वाले उपयोगकर्ताओं के लिए फॉलबैक विकल्प (जैसे स्मार्टफोन के बिना परिवार या पहुंच की जरूरतों वाले मेहमान) होगा।

यह अवसर व्यवसायिक संचालन को लॉजिस्टिक्स के लिए अनुकूल बनाने का नहीं है; यह आनंद को बढ़ाने, घर्षण को कम करने और जादुई, न कि यांत्रिक महसूस करने वाले साझा अनुभवों को बनाने का अवसर है। यह डिज़ाइन के लिए एक अवसर है।

मानव तत्व का परीक्षण

मानव-केंद्रित एआई डिज़ाइन में, परीक्षण महत्वपूर्ण है। यह आदर्श है कि संभावित अंतिम उपयोगकर्ताओं को प्रक्रिया में जल्दी और अक्सर लाया जाए, संभावित अंधे धब्बे की पहचान करने के उद्देश्य से। जब उपयोगकर्ता एक प्रणाली को समझ या विश्वास नहीं कर सकते हैं, तो प्रणाली विफल हो जाती है, चाहे इसका बैकएंड कितना भी प्रभावशाली क्यों न हो।

परीक्षण सुनिश्चित करता है कि सुलभता भी अक्सर एआई-संचालित अनुभवों में अनदेखी की जाती है। एक चैटबॉट तकनीकी रूप से कार्यात्मक हो सकता है, लेकिन यदि यह तंत्रिका विविध उपयोगकर्ताओं या गैर-मूल भाषी बोलने वालों की सेवा नहीं करता है, तो यह वास्तव में कार्यात्मक नहीं है। समावेशी डिज़ाइन केवल अंतराल को लाभ नहीं देता है, यह उत्पादों को किसी और सभी के लिए मजबूत बनाता है।

जिम्मेदारी डिज़ाइन से शुरू होती है

नीतियां सीमाओं को निर्धारित करने में मदद कर सकती हैं और सबसे खराब परिणामों को रोक सकती हैं। इसलिए ईयू एआई अधिनियम और एआई बिल ऑफ राइट्स के लिए ब्लूप्रिंट जैसे ढांचे महत्वपूर्ण कदम हैं। लेकिन अनुपालन केवल फर्श है। डिज़ाइन है कि हम छत तक कैसे पहुंचते हैं।

कंपनियों को चेकलिस्ट से परे जाना होगा और एआई प्रणालियों का निर्माण करना होगा जो गरिमा, एजेंसी और पर्यवेक्षण का समर्थन करते हैं। इसका अर्थ है मानव निर्णय को पूरी तरह से स्वचालित करने के लिए प्रतिरोध करना, और इसके बजाय मानव निर्णय को बढ़ाने वाले उपकरण डिज़ाइन करना। जिम्मेदार एआई मानव नियंत्रण को मिटा नहीं देता है; इसके विपरीत, यह इसे बढ़ाता है।

यह काम केवल तकनीकी नहीं है। इसके लिए डिज़ाइनरों, इंजीनियरों, नीति विशेषज्ञों और नैतिकविदों की एक बहु-विषयक टीम की आवश्यकता होती है जो दिन एक से मिलकर काम करते हैं। इसका अर्थ है लोगों के साथ डिज़ाइन करना, उनके लिए नहीं।

एआई को आकार देने में डिज़ाइनरों की भूमिका

डिज़ाइनर एआई की दिशा में एक अनोखी भूमिका निभाते हैं। वे मशीनों के संरचित तर्क और मानव जीवन की जटिलता दोनों में धाराप्रवाह हैं। डिज़ाइनरों को घर्षण बिंदुओं, भावनात्मक संकेतों और सामाजिक प्रभावों को पहचानने के लिए प्रशिक्षित किया जाता है जो डेटा अकेले पकड़ नहीं सकता है।

उसी तरह जैसे विशिष्ट प्रश्न जो यह सुनिश्चित करते हैं कि प्रौद्योगिकी मानवीय आवश्यकताओं की सेवा करती है, डिज़ाइनरों को उन प्रश्नों की वकालत करनी चाहिए जो तैनाती डेटा में सुंदर रूप से फिट नहीं होते हैं, जैसे:

• किसी को यह कैसा महसूस कराता है?
• क्या उपयोगकर्ता नियंत्रण में है?
• जब चीजें गलत हो जाती हैं तो क्या होता है?

अक्सर, डिज़ाइन को एआई पाइपलाइन के अंत में “इसे अच्छा दिखाने” के लिए लाया जाता है। लेकिन डिज़ाइन की सच्ची शक्ति रणनीतिक है। यह समस्याओं को परिभाषित करने के तरीके को आकार देना चाहिए, न कि केवल यह कि इंटरफेस कैसा दिखता है।

मानव-पहले, न कि मशीन-पहले

एआई केवल एक तकनीकी चुनौती नहीं है, यह एक डिज़ाइन चुनौती है। और इसे पूरा करने के लिए, हमें शुरू से ही मानव मूल्यों को केंद्रित करना होगा।

मानव-केंद्रित एआई एक विलासिता नहीं है – यह एक आवश्यकता है। यह प्रणालियों को विश्वसनीय, विश्वसनीय, निरपेक्ष, ऑडिट करने योग्य और अनुपालन बनाता है। लेकिन अधिक से अधिक, यह उत्पादों का निर्माण करता है जो अंतिम उपयोगकर्ता को लाभान्वित करते हैं और मानव उत्पादकता और संभावना को बढ़ाते हैं।

हमारे पास उपकरण हैं और हमारे पास जिम्मेदारी है कि हम एक भविष्य को डिज़ाइन करें जहां प्रौद्योगिकी लोगों की सेवा करती है, न कि इसके विपरीत। यह भविष्य डिज़ाइन से शुरू होता है।