सिंथेटिक डेटा का उदय, और यह वास्तविक डेटा को क्यों बढ़ाएगा नहीं बल्कि प्रतिस्थापित करेगा

इलोन मस्क ने हाल ही में घोषणा की कि हमने एआई मॉडलों के प्रशिक्षण के लिए उपलब्ध मानव डेटा का उपयोग कर लिया है। उनकी चेतावनी एआई की तेजी से प्रगति के लिए नए डेटा स्रोतों की आवश्यकता पर最新 टिप्पणी है। स्वास्थ्य सेवा और वित्त जैसे उद्योगों में, सख्त गोपनीयता नियम डेटा की कमी को और भी तीव्र बना रहे हैं।

जबकि सिंथेटिक डेटा – इस कमी का एक संभावित समाधान – नया नहीं है, इसका महत्व लगातार बढ़ रहा है, जैसा कि हाल के दौर में इस क्षेत्र में विलय और निवेश की होड़ से स्पष्ट है। हालांकि, सिंथेटिक डेटा के उपयोग के आसपास कुछ गहरे अनिश्चितताएं हैं, विशेष रूप से मॉडल कोलैप्स का जोखिम, जहां एक बहुमोडल लार्ज लैंग्वेज मॉडल (एलएलएम) के आउटपुट की गुणवत्ता वास्तविक दुनिया के डेटा के बिना खराब हो जाती है। यह समस्या हल करने योग्य या असाध्य साबित हो सकती है, जो जनरेटिव एआई (जेन एआई) के भविष्य पर महत्वपूर्ण प्रभाव डाल सकती है।

सिंथेटिक डेटा क्या है और यह कैसे बनाया जाता है?

सिंथेटिक डेटा वास्तविक घटनाओं से संग्रहीत किए जाने के बजाय कृत्रिम रूप से बनाया जाता है। एआई-जनरेटेड सिंथेटिक डेटा अब सबसे व्यापक रूप है, जिसमें वास्तविक दुनिया के डेटा पर मॉडलों को प्रशिक्षित करना शामिल है ताकि पैटर्न और संबंधों का पता लगाया जा सके, और फिर नए डेटा का निर्माण किया जा सके जो इन सांख्यिकीय गुणों की नकल करता है।

एलएलएम विभिन्न प्रकार के सिंथेटिक डेटा प्रकारों को उत्पन्न करने के लिए उपयोग किए जा रहे हैं, जिनमें संरचित डेटा जैसे टेबुलर डेटा और असंरचित डेटा जैसे मुक्त पाठ, वीडियो और छवियां शामिल हैं। डेटा के प्रकार के आधार पर विभिन्न विधियों का उपयोग किया जाता है।

उदाहरण के लिए, सिंथेटिक छवि डेटा को उत्पन्न करने के लिए दो सामान्य विधियां जेनरेटिव एडवर्सेरियल नेटवर्क (जीएएन) और डिफ्यूजन मॉडल हैं। जीएएन दो न्यूरल नेटवर्क का उपयोग करते हैं: एक जनरेटर वास्तविक डेटा के कृत्रिम संस्करण बनाता है, जबकि एक भेदभावपूर्ण यह पहचानता है कि कौन से वास्तविक और कौन से उत्पन्न किए गए हैं। निरंतर काम करते हुए, जनरेटर भेदभावपूर्ण को “धोखा” देने का प्रयास करता है, कृत्रिम डेटा की वास्तविकता और विविधता को लगातार बेहतर बनाता है। डिफ्यूजन मॉडल एक अलग दृष्टिकोण अपनाते हैं, जो वास्तविक डेटा को विकृत करना सीखते हैं और फिर इस प्रक्रिया को “शोर मुक्त” करने के लिए इसका उल्टा करते हैं। एक बार प्रभावी ढंग से प्रशिक्षित होने के बाद, वे उच्च गुणवत्ता वाले सिंथेटिक ऑडियो और दृश्य डेटा का उत्पादन कर सकते हैं।

सिंथेटिक डेटा का बढ़ता महत्व

सिंथेटिक डेटा में लंबे समय से रुचि रही है। हालांकि, पिछले 5 वर्षों में, एलएलएम के तेजी से विकास ने न केवल सिंथेटिक डेटा की मांग को बढ़ाया है, बल्कि इसका पैमाने पर उत्पादन करने के लिए एक और अधिक प्रभावी साधन भी बनाया है। परिणामस्वरूप, सिंथेटिक डेटा का उपयोग तेजी से बढ़ रहा है।

गार्टनर ने अनुमान लगाया कि सिंथेटिक डेटा एलएलएम के लिए उपयोग किए जाने वाले सभी डेटा का 60% हिस्सा 2024 तक बन जाएगा, जो 2021 में केवल 1% था। यह अनुमान व्यापक रूप से सटीक माना जा रहा है। उदाहरण के लिए, माइक्रोसॉफ्ट के फाई-4 मॉडल, जो अन्य एलएलएम को पीछे छोड़ते हुए भी बहुत छोटा है, मुख्य रूप से सिंथेटिक डेटा पर प्रशिक्षित था। इस बीच, अमेज़ॅन के एलेक्सा के इंजीनियर एक “शिक्षक/छात्र” मॉडल का अन्वेषण कर रहे हैं जहां “शिक्षक” मॉडल सिंथेटिक डेटा उत्पन्न करता है जिसे फिर एक छोटे “छात्र” मॉडल को ठीक करने के लिए उपयोग किया जाता है।

यह व्यापक अपनाना बाजार में बड़े कदमों द्वारा दर्शाया जा रहा है। सिंथेटिक डेटा क्षेत्र ने 2021-22 में निवेश का उछाल देखा। ग्रेटेल एआई और टोनिक.एआई ने क्रमशः $50 मिलियन और $35 मिलियन के श्रृंखला बी दौर में निवेश हासिल किया। इन्हें मोस्टली एआई द्वारा $25 मिलियन श्रृंखला बी दौर और सिंथेसिस एआई द्वारा श्रृंखला ए फंडिंग में $17 मिलियन हासिल करने के साथ किया गया था।

हाल ही में, यह रुझान बड़े पैमाने पर अधिग्रहण की ओर बढ़ गया है। एनवीडिया का ग्रेटेल का अधिग्रहण इस स्प्रिंग को तकनीकी दिग्गज के अपने क्षेत्र में काम का समर्थन करेगा। इसी तरह, एआई समाधान कंपनी एसएएस ने नवंबर 2024 में सिंथेटिक डेटा स्टार्टअप हेज़ी का अधिग्रहण किया.

विश्लेषण फर्म कॉग्निलिटिका ने 2021 में सिंथेटिक डेटा जनरेशन के बाजार को लगभग $110 मिलियन मूल्य का अनुमान लगाया था। फर्म को उम्मीद है कि यह 2027 तक $1.15 बिलियन तक पहुंच जाएगा। अन्य अनुमान इस क्षेत्र के लिए 31% की वार्षिक वृद्धि दर का संकेत देते हैं, क्योंकि यह 2030 तक $2.33 बिलियन मूल्य तक पहुंच जाएगा।

मॉडल कोलैप्स

हालांकि, सिंथेटिक डेटा की रोमांचक संभावना के साथ एक महत्वपूर्ण नुकसान भी जुड़ा हुआ है: मॉडल कोलैप्स। यह एक ऐसी घटना है जहां केवल सिंथेटिक डेटा पर प्रशिक्षित एलएलएम आउटपुट की सटीकता या विविधता में कमी आने लगती है।

वास्तविक दुनिया के डेटा में जटिलता अधिक होती है, जबकि सिंथेटिक डेटा अक्सर मॉडल द्वारा सरलीकृत और संक्षिप्त किया जाता है। उदाहरण के लिए, शोधकर्ताओं ने पाया कि एक मॉडल की सटीकता जो फोटोग्राफ से कैंसरयुक्त तिल का पता लगाने के लिए प्रशिक्षित की गई थी, सिंथेटिक प्रशिक्षण डेटा की मात्रा के विपरीत संबंधित थी। ऑक्सफोर्ड, कैम्ब्रिज, इंपीरियल कॉलेज और टोरंटो विश्वविद्यालय के शोधकर्ताओं द्वारा एक हालिया अध्ययन में पाया गया कि मॉडल-जनरेटेड डेटा का बिना किसी भेदभाव के उपयोग करने से “परिणामी मॉडल में अपरिवर्तनीय दोष” हो सकते हैं।

और भी बुरी बात यह है कि अधिकांश एलएलएम “ब्लैक बॉक्स” हैं, जो यह समझना मुश्किल बनाता है कि वे सिंथेटिक डेटा का कैसे जवाब देंगे। राइस विश्वविद्यालय और स्टैनफोर्ड के शोधकर्ताओं ने निष्कर्ष निकाला कि ताज़ा वास्तविक दुनिया के डेटा के बिना, “भविष्य के जनरेटिव मॉडलों की गुणवत्ता (सटीकता) या विविधता (रिकॉल) प्रगतिशील रूप से घट जाएगी।”

वास्तविक दुनिया के डेटा की निरंतर आवश्यकता

स्पष्ट रूप से, सिंथेटिक डेटा की मांग में वृद्धि के बावजूद, वास्तविक दुनिया के डेटा की आवश्यकता बनी रहती है। वास्तव में, उच्च गुणवत्ता वाले वास्तविक दुनिया के डेटा की मांग बढ़ सकती है। इसका कारण दो गुना है। पहला, वास्तविक दुनिया के डेटा की आवश्यकता हमेशा सिंथेटिक डेटा उत्पन्न करने वाले एआई मॉडलों को प्रशिक्षित करने के लिए होगी। और दूसरा, मॉडल कोलैप्स से बचने के लिए, यह आवश्यक है कि सिंथेटिक डेटा को निरंतर वास्तविक दुनिया के डेटा के साथ सिंक किया जाए।

सिंथेटिक-डेटा उत्पादक एआई मॉडल के लिए वास्तविक डेटा

जैसा कि पहले उल्लेख किया गया है, आज अधिकांश सिंथेटिक डेटा जेन एआई का उपयोग करके बनाया जाता है। और इन जेन एआई मॉडलों को वास्तविक दुनिया के डेटा पर प्रशिक्षित किया जाना चाहिए ताकि उपयोगी सिंथेटिक डेटा बनाया जा सके। यह इसलिए है क्योंकि वे केवल वास्तविक दुनिया के डेटासेट के पैटर्न और सांख्यिकीय गुणों की प्रतिलिपि बनाकर सिंथेटिक डेटा बना सकते हैं।

एक बीमा कंपनी का हालिया उदाहरण देखें जिसने सिंथेटिक डेटा का उपयोग करके विभिन्न विक्रेताओं का परीक्षण किए बिना अपने संवेदनशील ग्राहक डेटा को समझौता किए बिना। सिंथेटिक डेटा सेट बनाने के लिए, जो वास्तविकता की नकल करता है, उन्हें अपने वास्तविक दुनिया के डेटा का उपयोग करना पड़ा जिसने एआई मॉडल को प्रशिक्षित किया जो फिर सिंथेटिक डेटा का उत्पादन करता है।

मॉडल कोलैप्स को कम करने के लिए वास्तविक डेटा

मॉडल कोलैप्स के जोखिम को कम करने के लिए कई रणनीतियां हैं। इनमें सिंथेटिक डेटासेट को मान्य करना और फिर नियमित रूप से समीक्षा करना, और सिंथेटिक डेटा की गुणवत्ता की जांच करना शामिल है trước कि इसे जनरेटिव मॉडल में उपयोग किया जाए। हालांकि, सबसे सामान्य दृष्टिकोण सिंथेटिक डेटा को मानव डेटा के साथ मिलाकर डेटा को विविध बनाना है। गार्टनर के सर्वेक्षण में पाया गया कि 63% उत्तरदाता आंशिक रूप से सिंथेटिक डेटासेट का उपयोग करना पसंद करते हैं, जबकि केवल 13% ने कहा कि वे पूरी तरह से सिंथेटिक डेटा का उपयोग करते हैं।

यहां तक कि वास्तविक दुनिया के डेटा की मामूली मात्रा जोड़ने से मॉडल के प्रदर्शन में काफी सुधार हो सकता है। दक्षिण कैलिफोर्निया विश्वविद्यालय के शोधकर्ताओं ने पाया कि कंपनियां अपने वास्तविक डेटा के 90% तक को सिंथेटिक डेटा से प्रतिस्थापित कर सकती हैं बिना किसी महत्वपूर्ण प्रदर्शन में गिरावट के। हालांकि, उस अंतिम 10% मानव डेटा को प्रतिस्थापित करने से प्रदर्शन में काफी गिरावट आती है।

गुणवत्ता भी मायने रखती है, जैसा कि माइक्रोसॉफ्ट के फाई-4 के मामले में देखा गया है। यह एलएलएम मुख्य रूप से जीपीटी-4ओ द्वारा उत्पन्न सिंथेटिक डेटा पर प्रशिक्षित किया गया था। हालांकि, बहुत सारे प्री-प्रशिक्षण डेटा – जो मॉडल को पहले चरण के प्रशिक्षण के लिए उपयोग किया जाता है – सावधानी से क्यूरेटेड, उच्च गुणवत्ता वाले वास्तविक दुनिया के डेटा थे, जिनमें पुस्तकें और शोध पत्र शामिल थे।

सिंथेटिक डेटा द्वारा लाए जा सकने वाले संभावित लाभ

जब सिंथेटिक डेटा का उपयोग बुद्धिमानी से किया जाता है और वास्तविक दुनिया के डेटा के साथ प्रभावी ढंग से मिलाया जाता है, तो यह एआई प्रशिक्षण डेटा के संबंध में छह विशिष्ट मुद्दों का समाधान कर सकता है: कमी, सुलभता, समानता, पूर्वाग्रह, गोपनीयता मुद्दे, और लागत।

डेटा की कमी

जैसा कि एआई कंपनियां बाजार हिस्सेदारी हासिल करने और नए रिकॉर्ड हासिल करने की दौड़ में हैं, उनके एलएलएम को प्रशिक्षित करने के लिए डेटा की असीम मांग बढ़ रही है। सिंथेटिक डेटा इस अंतर को भरने की क्षमता रखता है, जैसा कि गार्टनर के शोध से पता चलता है। हालांकि, यह ध्यान देने योग्य है कि प्री-प्रशिक्षण डेटासेट में महत्वपूर्ण मात्रा में वास्तविक डेटा का उपयोग करना और मॉडल कोलैप्स से बचने के लिए सिंथेटिक डेटा के साथ सिंक करना अभी भी आवश्यक होगा।

डेटा सुलभता

बिग टेक कंपनियां डेटा के लिए गेटकीपर के रूप में कार्य कर रही हैं, जो छोटे खिलाड़ियों के लिए प्रवेश बाधा बन रही है। सिंथेटिक डेटा जेन एआई को लोकतांत्रिक बनाने की क्षमता रखता है, प्रशिक्षण डेटा को सस्ता और सुलभ बनाकर। हालांकि, यह बड़ी टेक कंपनियों को वास्तविक दुनिया के डेटा तक पहुंच में सुधार करने की जिम्मेदारी से मुक्त नहीं करेगा, क्योंकि यह सिंथेटिक-डेटा उत्पादक मॉडलों को प्रशिक्षित करने के लिए अभी भी आवश्यक है।

डेटा समानता

कुछ निचे उपयोग के मामलों में, जैसे कि स्वायत्त ड्राइविंग के लिए एआई को प्रशिक्षित करना, वास्तविक दुनिया के डेटासेट बहुत समान होते हैं। ड्राइविंग के मामले में, डेवलपर असामान्य स्थितियों के लिए डेटा में अंतराल भरने के लिए सिंथेटिक डेटा उत्पन्न कर सकते हैं। इससे मॉडल को सड़क पर दुर्लभ घटनाओं के लिए प्रशिक्षित करने में मदद मिलती है।

पूर्वाग्रह

कुछ वास्तविक दुनिया के डेटासेट में अंतर्निहित पूर्वाग्रह होते हैं, इसलिए सिंथेटिक डेटा का उपयोग एआई मॉडल को अधिक संतुलित दृष्टिकोण प्रदान करने के लिए किया जा सकता है। उदाहरण के लिए, वित्त में, यूके के वित्तीय आचरण प्राधिकरण (एफसीए) ने तर्क दिया है कि सिंथेटिक डेटा मानव डेटासेट में कुछ समूहों की कम प्रतिनिधित्व के कारण होने वाले संभावित पूर्वाग्रहों का मुकाबला कर सकता है।

गोपनीयता

स्वास्थ्य सेवा और वित्त जैसे क्षेत्रों में, गोपनीयता आवश्यकताएं डेटा की कमी को और भी तीव्र बना रही हैं। सिंथेटिक डेटा के साथ, कंपनियां अपने मॉडलों के लिए प्रशिक्षण डेटासेट बना सकती हैं जिसमें निशे डेटा शामिल होता है बिना ग्राहक गोपनीयता का उल्लंघन किए। हालांकि, यूके के रॉयल सोसाइटी द्वारा आयोजित एक रिपोर्ट ने चिकित्सा अनुसंधान में सिंथेटिक डेटा के संदर्भ में बताया है कि सिंथेटिक डेटा “स्वाभाविक रूप से निजता से सुरक्षित” होने का धारणा एक “भ्रांति” है। जैसा कि शोधकर्ताओं ने बताया, सिंथेटिक डेटा मूल डेटा से जानकारी लीक कर सकता है।

विशेष रूप से, संवेदनशील डेटा पर प्रशिक्षित मॉडल मॉडल इनवर्जन हमलों के लिए अतिसंवेदनशील होते हैं, जहां हैकर मूल डेटासेट के हिस्सों को पुनर्निर्माण कर सकते हैं।

लागत

आम तौर पर, सिंथेटिक डेटा वास्तविक दुनिया के डेटा की तुलना में कम लागत पर उत्पन्न किया जाता है। यह लेबल के साथ आता है, जो समय और लागत बचाता है। कुछ एआई प्रशिक्षण परियोजनाओं में, 80% परियोजना डेटा तैयारी में लगती है, जिसमें लेबलिंग शामिल है। यही कारण है कि विशिष्ट कंपनियां डेटा प्रसंस्करण की आवश्यकताओं को पूरा करने के लिए सिलिकॉन वैली की दिग्गज कंपनियों के लिए कम लागत वाले श्रम को सोर्स करने के लिए उभरी हैं।

वास्तविक डेटा को बढ़ाने के बजाय प्रतिस्थापित करना

सिंथेटिक डेटा के इन लाभों का लाभ उठाया जा सकता है, बशर्ते यह वास्तविक डेटा का विकल्प न माना जाए। इसके बजाय, इसकी भूमिका वास्तविक डेटा सेट को बढ़ाने में मदद करनी चाहिए, जिससे उपलब्ध डेटा बिंदुओं की संख्या बढ़ सके।

संदर्भ के लिए, मेटा का आगामी एलएलएम, एलएलएएमा बेहेमोथ, 30 ट्रिलियन डेटा पॉइंट्स पर प्रशिक्षित किया जा रहा है। स्पष्ट रूप से, इस पैमाने पर वास्तविक दुनिया का डेटा खोजना चुनौतीपूर्ण, यदि नहीं असंभव है। फिर भी, जैसा कि उल्लेख किया गया है, वास्तविक दुनिया के डेटा का उपयोग करना अभी भी आवश्यक है, चाहे वह सिंथेटिक डेटा उत्पन्न करने वाले मॉडलों को प्रशिक्षित करने के लिए हो या सिंथेटिक डेटा के साथ सिंक करने के लिए सटीकता और मॉडल कोलैप्स से बचने के लिए। एलएलएम अब काम कर रहे हैं उस पैमाने पर, भले ही सिंथेटिक डेटा प्रशिक्षण डेटा का एक महत्वपूर्ण हिस्सा बन जाए, वास्तविक दुनिया के डेटा की अभी भी महत्वपूर्ण मांग रहेगी। और इसका मतलब है कि गेटकीपिंग, पहुंच, पूर्वाग्रह, लागत, और समय के आसपास जटिल मुद्दे हल करने होंगे।