जब आपका AI तथ्य गढ़ता है: जिसे कोई नेता अनदेखा नहीं कर सकता

यह सही लगता है। यह देखने में सही लगता है। यह गलत है। यह आपका AI है जो हॉलुसिनेशन कर रहा है। समस्या यह नहीं है कि आज के जेनरेटिव AI मॉडल हॉलुसिनेशन करते हैं। यह है कि हम महसूस करते हैं कि अगर हम पर्याप्त गार्डरेल बनाएं, इसे फाइन-ट्यून करें, राग करें और इसे कुछ तरह से टेम करें, तो हम इसे एंटरप्राइज स्केल पर अपना पाएंगे।

हॉलुसिनेशन दर 0.8% से 88% तक होती है

हाँ, यह मॉडल, डोमेन, उपयोग के मामले और संदर्भ पर निर्भर करता है, लेकिन यह फैलाव किसी भी एंटरप्राइज निर्णय लेने वाले को हिला देना चाहिए। ये किनारे के मामले की गलतियाँ नहीं हैं। वे प्रणालीगत हैं। आपको अपने एंटरप्राइज में एआई अपनाने के लिए सही फैसला लेने के लिए क्या करना चाहिए? कहाँ, कैसे, कितना गहरा, कितना चौड़ा?

और इसके वास्तविक दुनिया के परिणामों के उदाहरण आपके समाचार फीड पर हर दिन आते हैं। जी20 के वित्तीय स्थिरता बोर्ड ने जेनरेटिव एआई को दुष्प्रचार के लिए एक वेक्टर के रूप में चिह्नित किया है जो बाजार संकट, राजनीतिक अस्थिरता और और भी बदतर – फ्लैश क्रैश, नकली समाचार और धोखाधड़ी का कारण बन सकता है। एक हाल ही में रिपोर्ट की गई कहानी में, मॉर्गन और मॉर्गन लॉ फ़र्म ने सभी वकीलों को एक आपातकालीन ज्ञापन जारी किया: एआई-जनित फाइलिंग को जमा करने से पहले जाँच किए बिना न करें। नकली मामला कानून एक “आग लगाने वाला” अपराध है।

यह शायद हॉलुसिनेशन दर शून्य की ओर बढ़ने की संभावना पर दांव लगाने का सबसे अच्छा समय नहीं है। विशेष रूप से नियंत्रित उद्योगों में, जैसे कानूनी, जीवन विज्ञान, पूंजी बाजार, या अन्य में, जहां एक गलती की लागत अधिक हो सकती है, जिसमें उच्च शिक्षा प्रकाशन शामिल है।

हॉलुसिनेशन एक राउंडिंग त्रुटि नहीं है

यह एक आकस्मिक गलत उत्तर के बारे में नहीं है। यह जोखिम के बारे में है: प्रतिष्ठा, कानूनी, संचालन।

जेनरेटिव एआई एक तर्क इंजन नहीं है। यह एक सांख्यिकीय फिनिशर, एक स्टोकास्टिक तोता है। यह आपके प्रॉम्प्ट को प्रशिक्षण डेटा के आधार पर सबसे संभावित तरीके से पूरा करता है। यहां तक कि सच्चे-सounding भाग अनुमान हैं। हम सबसे अविश्वसनीय टुकड़ों को “हॉलुसिनेशन” कहते हैं, लेकिन पूरा आउटपुट एक हॉलुसिनेशन है। एक अच्छी तरह से स्टाइल किया गया। फिर भी, यह काम करता है, जादुई रूप से अच्छी तरह से – जब तक यह नहीं करता।

एआई बुनियादी ढांचा के रूप में

और फिर भी, यह कहना महत्वपूर्ण है कि एआई तब तैयार होगा जब हम इसे बुनियादी ढांचे की तरह मानते हैं, न कि जादू की तरह। और जहां आवश्यक हो, यह पारदर्शी, समझने योग्य और ट्रेस करने योग्य होना चाहिए। और अगर यह नहीं है, तो यह एंटरप्राइज-वाइड अपनाने के लिए तैयार नहीं है। यदि एआई निर्णय ले रहा है, तो यह आपके बोर्ड के रडार पर होना चाहिए।

यूरोपीय संघ का एआई अधिनियम यहां अग्रणी है। उच्च जोखिम वाले डोमेन जैसे न्याय, स्वास्थ्य सेवा और बुनियादी ढांचे को मिशन-क्रिटिकल सिस्टम की तरह विनियमित किया जाएगा। दस्तावेजीकरण, परीक्षण और समझने योग्यता अनिवार्य होगी।

एंटरप्राइज सुरक्षित एआई मॉडल क्या करते हैं

कंपनियां जो एंटरप्राइज-सुरक्षित एआई मॉडल बनाने में माहिर हैं, एआई को अलग तरह से बनाने का जानबूझकर निर्णय लेती हैं। उनके वैकल्पिक एआई आर्किटेक्चर में, भाषा मॉडल डेटा पर प्रशिक्षित नहीं होते हैं, इसलिए वे डेटा में किसी भी अवांछित चीज से “दूषित” नहीं होते हैं, जैसे कि पूर्वाग्रह, आईपी उल्लंघन, या अनुमान लगाने या हॉलुसिनेशन की प्रवृत्ति।

सUCH मॉडल आपके “विचार” को पूरा नहीं करते – वे आपकी सामग्री से तर्क देते हैं। उनका ज्ञान आधार। उनके दस्तावेज़। उनका डेटा। यदि उत्तर वहाँ नहीं है, तो ये मॉडल ऐसा कहते हैं। यही उन्हें समझने योग्य, ट्रेस करने योग्य, निर्धारित और उन स्थानों में एक अच्छा विकल्प बनाता है जहां हॉलुसिनेशन अस्वीकार्य हैं।

एआई जिम्मेदारी के लिए 5-कदम प्लेबुक

1. एआई लैंडस्केप को मैप करें – आपके व्यवसाय में एआई कहां उपयोग किया जाता है? वे किन निर्णयों को प्रभावित कर रहे हैं? आप उन निर्णयों को पारदर्शी विश्लेषण पर विश्वसनीय स्रोत सामग्री में वापस लाने की क्षमता पर कितना प्रीमियम रखते हैं?
2. अपने संगठन को संरेखित करें – अपने एआई तैनाती के दायरे के आधार पर, भूमिकाएं, समितियां, प्रक्रियाएं और लेखा परीक्षा अभ्यास स्थापित करें जो वित्तीय या साइबर जोखिम के लिए उतने ही कठोर हों।
3. एआई को बोर्ड-स्तर के जोखिम में लाएं – यदि आपका एआई ग्राहकों या नियामकों से बात करता है, तो यह आपकी जोखिम रिपोर्ट में होना चाहिए। शासन एक साइडशो नहीं है।
4. विक्रेताओं को सह-दायित्व के रूप में मानें – यदि आपके विक्रेता का एआई चीजें बनाता है, तो आप अभी भी परिणाम के मालिक हैं। अपने एआई जिम्मेदारी के सिद्धांतों को उन तक बढ़ाएं। पारदर्शिता, लेखा परीक्षा अधिकार और समझने योग्यता और हॉलुसिनेशन दर के लिए एसएलए की मांग करें।
5. संदेह को प्रशिक्षित करें – आपकी टीम को एआई को एक जूनियर विश्लेषक की तरह मानना चाहिए – उपयोगी, लेकिन अक्षम्य नहीं। जब कोई हॉलुसिनेशन की पहचान करता है तो जश्न मनाएं। विश्वास अर्जित किया जाना चाहिए।

एंटरप्राइज में एआई का भविष्य बड़े मॉडल नहीं है। जो जरूरी है वह है अधिक सटीकता, अधिक पारदर्शिता, अधिक विश्वास और अधिक जिम्मेदारी।