विचार नेता
समीक्षा वास्तुकला मॉडल से अधिक महत्वपूर्ण है एआई में उद्यम
Unite.AI को Google पर अपने पसंदीदा स्रोतों में जोड़ें
उद्यम में एआई की अगली चरण की परिपक्वता बेहतर मॉडल पर कम निर्भर करती है और मॉडल के चारों ओर विश्वसनीय वास्तुकला बनाने पर अधिक निर्भर करती है।
पिछले दो वर्षों में मैंने जिन एआई गवर्नेंस वार्ताओं में भाग लिया है, वे सभी एक ही चिंताओं पर आते हैं: हॉलुसिनेशन दर, सटीकता बेंचमार्क, और संरेखण परीक्षण। ये वास्तविक मुद्दे हैं, लेकिन वार्ता समस्या के गलत छोर से जुड़ी हुई है।
हालांकि मॉडल में काफी सुधार हुआ है, अनियंत्रित एआई आउटपुट की संख्या वरिष्ठ निर्णय लेने वालों तक पहुंच गई है। यह उपेक्षा एक समीक्षा वास्तुकला समस्या को दर्शाती है, और उद्योग इस पर बहुत कम चर्चा कर रहा है।
मॉडल-केंद्रित कहानी वास्तविकता से आगे निकल गई है
उद्यम एआई में प्रमुख फ्रेम अभी भी मॉडल की गुणवत्ता को प्राथमिक चर के रूप में मानता है: यदि मॉडल पर्याप्त सटीक है, तो आउटपुट विश्वसनीय है। यह तर्क दो साल पहले समझ में आया जब प्रारंभिक एलएलएम अधिक असंगत और हॉलुसिनेशन के लिए प्रवण थे, लेकिन स्थिति बदल गई है।
आज के मॉडल विभिन्न कार्यों में पॉलिश, संरचित, संदर्भ-समृद्ध प्रतिक्रियाएं प्रदान करते हैं, जो हितधारकों के लिए तैयार भाषा में हैं। संगठन अब एआई का उपयोग अपनी समीक्षा प्रक्रियाओं से अधिक मात्रा में करते हैं। एआई-सहायता प्राप्त डेवलपर्स 21% अधिक कार्य पूरा करते हैं, जबकि पुल-अनुरोध समीक्षा समय 91% बढ़ जाता है। उत्पादन बढ़ जाता है, इसलिए क्षमता अब बोतलनेक नहीं है। समीक्षा क्षमता वास्तविक बाधा है।
इनसाइट्स कार्य में डेटा क्या दिखाता है
इनसाइट्स उद्योग इस समस्या का अध्ययन करने के लिए एक फायदेमंद स्थान है क्योंकि अनुसंधान पेशेवर संदेहवादी होते हैं। वे जानते हैं कि संबंध, कारण, निष्कर्ष और निष्कर्षों के बीच अंतर। डेटा गुणवत्ता पर प्रश्न उठाना उनके काम का हिस्सा है।
क्निट एआई ट्रस्ट इंडेक्स के अनुसार, 92% सर्वेक्षित उद्यम इनसाइट्स पेशेवरों का कहना है कि एआई-जनित आउटपुट बिना व्यापक समीक्षा के वरिष्ठ नेतृत्व तक पहुंचते हैं। ट्रस्ट इंडेक्स के निष्कर्ष तीन प्रमुख दबाव बिंदुओं की पहचान करते हैं:
- मात्रा ने सत्यापन क्षमता को पार कर लिया है। टीमें उन आउटपुट की तुलना में अधिक आउटपुट उत्पन्न करती हैं जिन्हें वे गहन रूप से जांचती हैं।
- विश्वास ने सत्यापन व्यवहार से अधिक तेजी से वृद्धि की है। शोधकर्ता एआई की गुणवत्ता के बारे में व्यापक रूप से सकारात्मक महसूस करते हैं, जबकि स्वीकार करते हैं कि उनकी समीक्षा प्रथाएं तालमेल नहीं रखी हैं।
- एआई कार्य की समीक्षा के लिए टूलिंग उत्पादन के लिए टूलिंग से पीछे है। संगठनों ने उत्पादन क्षमताओं में भारी निवेश किया है और तुलनात्मक रूप से कम समीक्षा और अनुवर्ती कार्य के लिए बुनियादी ढांचे में।
पॉलिश आउटपुट कम जांच को आमंत्रित करते हैं
कठिन विफलता मोड यह नहीं है जहां एआई एक स्पष्ट रूप से गलत उत्तर उत्पन्न करता है और कोई इसे पकड़ लेता है। कठिन समस्या स्वचालन पूर्वाग्रह है, जो प्राधिकरण और संरचित आउटपुट की उपेक्षा करने की प्रवृत्ति है। एक 2025 में प्रकाशित एआई और सोसाइटी में एक व्यवस्थित समीक्षा ने 35 पीयर-रिव्यू अध्ययनों में इसकी जांच की और पाया कि पॉलिश, उच्च-विश्वास एआई आउटपुट लगातार मानव समीक्षा की गहराई को कम करते हैं – यहां तक कि अनुभवी पेशेवरों के बीच भी। जब कुछ सही लगता है, तो हम यह जांचने के लिए कम ध्यान देते हैं कि यह सही है या नहीं।
यह उपेक्षा एक प्रसार समस्या पैदा करती है। एक शोध आउटपुट जिसे एक विश्लेषक केवल हल्के से समीक्षा करता है, वह एक वीपी-स्तरीय डेक में एक डेटा बिंदु बन जाता है, जो एक बोर्ड-स्तरीय चर्चा का आधार बनता है। जब तक कोई त्रुटि इतनी दूर नहीं पहुंच जाती, उसका मूल स्रोत अदृश्य हो जाता है और उसका सुधार महंगा हो जाता है। वैश्विक व्यवसाय एआई-जनित अशुद्धताओं से 2024 में 67 अरब डॉलर से अधिक का नुकसान हुआ। प्रति-कर्मचारी सत्यापन लागत प्रति वर्ष 14,200 डॉलर तक पहुंच सकती है, केवल यह जांचने के लिए कि एआई-जनित सामग्री सटीक है या नहीं। फिर से, ये मॉडल गुणवत्ता समस्याएं नहीं हैं; वे समीक्षा वास्तुकला समस्याएं हैं।
परिपक्व एआई कार्य प्रवाह वास्तव में कैसे दिखते हैं
जो संगठन इस समस्या का अच्छी तरह से प्रबंधन कर रहे हैं, वे दूसरों की तुलना में बेहतर मॉडल का उपयोग नहीं कर रहे हैं। इसके बजाय, उन्होंने मॉडल के चारों ओर अधिक व्यापक समीक्षा बुनियादी ढांचे का निर्माण किया है। उनके दृष्टिकोण को चार सिद्धांतों द्वारा परिभाषित किया जाता है:
-
दृश्य प्रोवेनेंस
प्रत्येक एआई आउटपुट में एक पारदर्शी रिकॉर्ड होता है जहां से इसके इनपुट आए थे। यह रिकॉर्ड समीक्षकों को आउटपुट का मूल्यांकन करने के लिए मूल्यवान अंतर्दृष्टि प्रदान करता है। आप किसी दावे का मूल्यांकन नहीं कर सकते जो अनुमानित है।
-
हितों द्वारा स्तरीकृत समीक्षा
सभी एआई आउटपुट एक ही जोखिम नहीं उठाते हैं। परिपक्व कार्य प्रवाह जोखिम के अनुपात में समीक्षा की तीव्रता लागू करते हैं। उच्च-जोखिम वाले आउटपुट अधिक आंखों और संरचित सत्यापन चरणों को प्राप्त करते हैं। नियमित आउटपुट तेजी से आगे बढ़ते हैं।
-
सही स्थानों पर घर्षण
जो संगठन एआई विश्वास के साथ सबसे ज्यादा संघर्ष कर रहे हैं, उन्होंने एकसमान रूप से घर्षण को हटा दिया है, जिसमें गति को सार्वभौमिक लक्ष्य के रूप में माना जाता है। सफल लोगों ने चयनात्मक रूप से घर्षण को बनाए रखा है: एआई आउटपुट जब संगठनात्मक निर्णय बन जाते हैं, तो हस्तांतरण बिंदुओं पर जानबूझकर घर्षण को बनाए रखा। उनकी प्रक्रियाओं में एक बोर्ड डेक में एआई-जनित खोज के पहले हस्ताक्षर की आवश्यकता होती है, या रणनीति चर्चाओं में खोजों के प्रवेश से पहले एक संरचित चुनौती चरण।
-
मॉडल परत में प्रतिक्रिया लूप
सर्वोत्तम कार्य प्रवाह समीक्षा को एक डेटा-उत्पादक प्रक्रिया के रूप में मानते हैं, न कि एक चेकपॉइंट के रूप में। जब एक समीक्षक एक त्रुटि को चिह्नित करता है या एआई सिफारिश को ओवरराइड करता है, तो उस संकेत को कब्जा कर लिया जाता है और भविष्य के कार्य पर एआई की तैनाती में वापस फीड किया जाता है। ओपनएआई स्टेट ऑफ एंटरप्राइज एआई रिपोर्ट ने पाया कि उच्चतम प्रदर्शन वाले संगठन मॉडल की जटिलता से नहीं बल्कि तैनाती प्रक्रियाओं की कठोरता से अलग हैं। संगठन जिनके पास यह प्रतिक्रिया लूप नहीं है, वे प्रत्येक बार से शुरू करते हैं।
अगला चरण समीक्षा परत में जीता जाएगा
इनसाइट्स उद्योग में वास्तविक प्रतिस्पर्धी लाभ यह है कि कौन लगातार अपने द्वारा उत्पादित पर भरोसा कर सकता है। यह विश्वास तब आता है जब आप जानते हैं कि आउटपुट कहां से आया, किसने इसकी समीक्षा की, और जब कुछ गलत हो गया तो क्या हुआ। हाल के इतिहास ने मॉडल प्रश्न का उत्तर दिया है; मॉडल को जिम्मेदारी से वितरित करने के लिए संगठनात्मक बुनियादी ढांचा अभी भी पकड़ बना रहा है।
यह तथ्य कि 92% इनसाइट्स पेशेवरों ने बिना व्यापक समीक्षा के वरिष्ठ नेतृत्व तक एआई सामग्री देखी है, यह एक प्रौद्योगिकी विफलता नहीं है। यह एक संगठनात्मक डिज़ाइन विफलता है, और यह उद्योगों में जहां गति को अनुकूलित किया गया है और समीक्षा को लागत के रूप में माना जाता है। एआई में अगले चरण को जीतने वाली कंपनी सबसे चतुर मॉडल वाली नहीं होगी, बल्कि सबसे विश्वसनीय समीक्षा वास्तुकला वाली कंपनी होगी।
