एआई मॉडल और प्लेटफ़ॉर्म

मानसिक स्वास्थ्य एआई टूल ने दुर्घटनावश सटीक डीपफेक डिटेक्शन का पता लगाया

Salomé Beyer Velez
Unite.AI को Google पर अपने पसंदीदा स्रोतों में जोड़ें
मुख्य बिंदुडीपफेक धोखाधड़ी पकड़ से आगे निकल रही है क्योंकि संश्लेषित आवाज़ें अब अविभेद्यता की सीमा…
और देखें
  • डीपफेक धोखाधड़ी पकड़ से आगे निकल रही है क्योंकि संश्लेषित आवाज़ें अब अविभेद्यता की सीमा पार कर चुकी हैं।
  • आवाज़-आधारित डीपफेक का पता लगाना अब और अधिक महत्वपूर्ण हो गया है क्योंकि एआई धोखाधड़ी की लागत के 40 अरब डॉलर तक पहुँचने का अनुमान है।
  • डीपफेक के विरुद्ध सबसे प्रभावी बचाव संश्लेषित अवशेषों का पीछा करने के बजाय मानव प्रामाणिकता का सत्यापन हो सकता है।

जब तकनीकी दिग्गज ओपन एआई ने सितंबर 2025 में अपने फ्लैगशिप सोरा 2 वीडियो और ऑडियो जेनरेशन मॉडल को लॉन्च किया, तब से डीपफेक वीडियो सोशल मीडिया प्लेटफॉर्म पर बाढ़ आ गई, जिससे दर्शकों को संभावित रूप से खतरनाक हाइपर-रियलिस्टिक सामग्री के साथ तेजी से परिचित कराया जा रहा है।

हालांकि ओपन एआई ने सोरा 2 को जिम्मेदारी से लॉन्च करने को शीर्ष प्राथमिकता के रूप में माना, जिसमें दावा किया गया था कि यह उपयोगकर्ताओं को “जो वे अपने फीड में देखते हैं उस पर नियंत्रण” और अपने रूप-रंग के उपयोग पर शुरू से अंत तक नियंत्रण देगा, एक अक्टूबर 2025 के अध्ययन में पाया गया कि मॉडल ने 80% समय झूठे दावे वाले वीडियो का उत्पादन किया।

मोल्डोवा के चुनाव अधिकारी द्वारा मतपत्र नष्ट करने की खबर की नकल करने वाले वीडियो से लेकर आव्रजन अधिकारियों द्वारा एक छोटे बच्चे को हिरासत में लेने के गढ़े हुए दृश्य, या कोका-कोला (KO ) के प्रवक्ता द्वारा कंपनी के सुपर बाउल को प्रायोजित न करने की झूठी घोषणा तक, परस्पर जुड़े विश्व में गलत सूचना बनाने का जोखिम पहले से कहीं अधिक है।

सोरा से परे: विशिंग

ओपन एआई के टूल लॉन्च होने से पहले ही, डीपफेक फाइलों का निर्माण और ऑनलाइन प्रसार बढ़ रहा था। साइबर सुरक्षा फर्म डीपस्ट्राइक की एक सितंबर 2025 की रिपोर्ट के अनुसार, डीपफेक सामग्री 2023 में 500,000 से बढ़कर 2025 में 8 मिलियन हो गई, जिसमें से अधिकांश का उपयोग धोखाधड़ी के उद्देश्यों के लिए किया गया था।

यह रुझान रुकने के कोई संकेत नहीं दिखा रहा है; अमेरिका में अकेले एआई धोखाधड़ी 2027 तक 40 अरब अमेरिकी डॉलर तक पहुंचने की उम्मीद है।

ऐसी वृद्धि मात्रा तक ही सीमित नहीं है। सोरा 2 और गूगल के वियो 3 जैसे टूल के साथ, एआई-जेनरेटेड चेहरे, आवाज और पूर्ण-शरीर प्रदर्शन अब पहले से कहीं अधिक वास्तविक हैं। जैसा कि कंप्यूटर वैज्ञानिक और डीपफेक शोधकर्ता सीवेई ल्यू ने संकेत दिया है, समकालीन मॉडल स्थिर चेहरे का उत्पादन कर सकते हैं जो विकृत या विकृत नहीं हैं, जबकि आवाज क्लोनिंग ने ऐसी सीमा जहां नकली और असली आवाज़ में अंतर करना संभव नहीं रह जाता पार कर ली है। (GOOGL )

सत्य यह है कि डीपफेक्स डिटेक्शन से आगे निकल रहे हैं। जो तकनीक कंपनियां ओलंपिक जिम्नास्टिक प्रदर्शन से लेकर जटिल पृष्ठभूमि ध्वनियों तक सब कुछ बनाने वाले मनोरंजक टूल बेचती हैं, उसे अपराधियों ने व्यवसायों और व्यक्तियों दोनों को निशाना बनाने के लिए भी उपयोग किया है। सिर्फ 2025 की पहली छमाही में, डीपफेक घटनाओं ने कंपनियों के लिए 356 मिलियन अमेरिकी डॉलर के नुकसान और व्यक्तियों के लिए 541 मिलियन अमेरिकी डॉलर के नुकसान का कारण बना।

पारंपरिक डीपफेक डिटेक्शन – जिसमें वॉटरमार्क, एयरब्रश किए गए चेहरे और मेटाडेटा जांच शामिल हैं – विफल हो रहा है। और, जैसा कि वॉइस डीपफेक्स दूसरा सबसे आम रूप है एआई-संचालित धोखाधड़ी और वॉइस फ़िशिंग (विशिंग) 2025 में 442% बढ़ गया, परिणाम पहले से ही महसूस किए जा रहे हैं।

अब कुछ सेकंड की आवाज़ से एक विश्वसनीय क्लोन बनाया जा सकता है, जिसमें स्वाभाविक उतार-चढ़ाव, लय, जोर, भावना, विराम और सांस की ध्वनि भी होती है, ल्यू ने लिखा।

मानवों को सुनने का विज्ञान

किंत्सुगी, एक हेल्थटेक स्टार्टअप जो क्लिनिकल अवसाद और चिंता का पता लगाने के लिए एआई वॉइस बायोमार्कर प्रौद्योगिकी विकसित कर रहा है। उनका काम एक सरल धारणा से शुरू हुआ: हमें मानवों को सुनना होगा।

“मैंने किंत्सुगी की शुरुआत एक समस्या के कारण की जो मैंने व्यक्तिगत रूप से अनुभव की थी। मैंने लगभग पांच महीने तक अपने प्रदाता को फोन किया केवल एक प्रारंभिक चिकित्सा नियुक्ति को शेड्यूल करने के लिए, और किसी ने कभी मेरी कॉल्स का जवाब नहीं दिया। मैं कोशिश करती रही – लेकिन मुझे याद है कि मैं बहुत स्पष्ट रूप से सोच रही थी कि अगर यह मेरे पिता या मेरे भाई होते, तो वे पहले ही रुक जाते,” सीईओ ग्रेस चांग ने यूनाइट.एआई के साथ बातचीत में कहा।

कैलिफोर्निया स्थित कंपनी की स्थापना 2019 में एक “ट्राइज बोतलनेक” के समाधान के रूप में की गई थी। संस्थापक ने माना कि पहले और निष्क्रिय रूप से गंभीरता का पता लगाने से लोगों को सही देखभाल के स्तर तक पहुंचाने में मदद मिल सकती है। और, किंत्सुगी वॉइस के माध्यम से, वॉइस बायोमार्कर क्लिनिकल अवसाद और चिंता की पहचान करते हैं।

शोध से पता चलता है कि मानसिक स्वास्थ्य स्थितियों के लिए बायोमार्कर के रूप में एआई-संचालित भाषण और वॉइस विश्लेषण का सफलतापूर्वक उपयोग किया जा सकता है। एक मई 2025 के पेपर में, उदाहरण के लिए, पाया गया कि ध्वनिक बायोमार्कर मानसिक स्वास्थ्य स्थितियों और तंत्रिका विविधता के शुरुआती संकेतों का पता लगा सकते हैं, और नैदानिक सेटिंग्स में रोगियों की संभावित संज्ञानात्मक गिरावट का मूल्यांकन करने के लिए गायन विश्लेषण के एकीकरण का तर्क दिया।

आवाज़ के मापों में वास्तव में अवसाद वाले लोगों की पहचान करने की 78% से 96% की सटीकता दर है, अमेरिकी मनश्चिकित्सा संघ के अनुसार। एक अन्य अध्ययन में एक मिनट का मौखिक फ्लूएंसी परीक्षण का उपयोग किया गया था, जिसमें एक व्यक्ति ने एक दिए गए श्रेणी में जितने संभव हो उतने शब्द बताए – 70% से 83% की सटीकता के साथ यह पता लगाने में कि विषय में अवसाद और चिंता दोनों थीं।

अपने उपयोगकर्ताओं के मानसिक स्वास्थ्य का आकलन करने के लिए, किंत्सुगी एक छोटी सी भाषण क्लिप का अनुरोध करता है, जिसके बाद इसकी वोकल बायोमार्कर प्रौद्योगिकी पिच, उतार-चढ़ाव, स्वर-गुण और विरामों का विश्लेषण करती है – मार्कर जो अवसाद, चिंता, द्विध्रुवी विकार और मनोभ्रंश जैसी स्थितियों से जुड़े हुए हैं।

चांग ने जो नहीं महसूस किया था, वह यह था कि प्रौद्योगिकी ने सुरक्षा उद्योग की सबसे दबाव वाली समकालीन चुनौतियों में से एक को अनलॉक किया था: यह पहचानना कि मानव आवाज़ को मानव बनाता है।

मानसिक स्वास्थ्य देखभाल से साइबर सुरक्षा तक

न्यूयॉर्क में 2025 के अंत में एक शिखर सम्मेलन में भाग लेते हुए, चांग ने एक साइबर सुरक्षा क्षेत्र में एक मित्र से उल्लेख किया कि उनकी टीम के सिंथेटिक आवाज़ के साथ प्रयोग निराशाजनक रहा था।

“हम अपने मानसिक स्वास्थ्य मॉडलों के लिए प्रशिक्षण के लिए सिंथेटिक डेटा की खोज कर रहे थे, लेकिन उत्पन्न आवाज़ वास्तविक मानव भाषण से इतनी अलग थी कि हम लगभग 100% समय बता सकते थे,” उन्होंने कहा।

“उन्होंने मुझे रोका और कहा, ‘ग्रेस – यह सुरक्षा में एक हल की गई समस्या नहीं है।’ यह वह क्षण था जब सब कुछ क्लिक हुआ। तब से, सुरक्षा, वित्तीय सेवाओं और टेल्को कंपनियों के साथ बातचीत ने पुष्टि की है कि डीपफेक वॉइस हमले कितनी तेजी से बढ़ रहे हैं – और लाइव कॉल में मानव और सिंथेटिक आवाजों के बीच अंतर करने की आवश्यकता कितनी वास्तविक है,’ सीईओ ने कहा।

पिछले अप्रैल में, एफबीआई ने एक दुर्भावनापूर्ण टेक्स्ट और वॉइस संदेश अभियान की चेतावनी दी जो वरिष्ठ अमेरिकी अधिकारियों के संचार के रूप में प्रस्तुत की जाती थी और पूर्व सरकारी कार्यकर्ताओं और उनके संपर्कों को लक्षित करती थी। अमेरिका में बड़े राष्ट्रीय बैंक भी 5.5 औसत दैनिक वॉइस मैनिपुलेशन धोखाधड़ी प्रयासों के साथ लक्षित थे, और वैंडरबिल्ट यूनिवर्सिटी मेडिकल सेंटर के अस्पताल कर्मचारियों ने मित्रों, पर्यवेक्षकों और सहकर्मियों के रूप में प्रस्तुत करने वाले प्रतिरूपणकर्ताओं से विशिंग हमलों की सूचना दी।

किंत्सुगी के काम में शुरू में डीपफेक्स नहीं थे। जबकि कंपनी की टीम प्रशासनिक कॉल सेंटर एजेंटों और आउटबाउंड कार्य प्रवाहों के लिए सिंथेटिक आवाज़ के साथ प्रयोग करने के लिए कार्टेसिया, सेसम और इलेवनलैब्स जैसे ऑफ-द-शेल्फ मॉडल का उपयोग कर रही थी, डीपफेक धोखाधड़ी उनके फोकस में नहीं थी जब एक भीड़भाड़ वाले और सुलभ बाजार में मॉडल जैसे सोरा थे।

मानव आवाज़ की प्रामाणिकता को इंगित करने वाले मानव-स्तरीय संकेत वे बायोमार्कर हैं जो किसी को मानव बनाते हैं। भाषा या अर्थ की परवाह किए बिना, किंत्सुगी वॉइस सिग्नल प्रोसेसिंग और भाषण की शारीरिक विलंबता के साथ काम करता है, जो सूक्ष्म टाइमिंग, प्रोसोडिक परिवर्तनशीलता, संज्ञानात्मक भार, और शारीरिक मार्करों को पकड़ता है जो यह दर्शाते हैं कि भाषण कैसे उत्पन्न होता है … न कि क्या कहा जाता है।

“सिंथेटिक आवाज़ फ्लूएंट लग सकती है, लेकिन वे समान जैविक और संज्ञानात्मक कलाकृतियों को ले जाने वाले नहीं हैं,” चांग ने कहा। कंपनी का मॉडल लगातार पता लगाने की सटीकता में शीर्ष-दशमे प्रदर्शनकर्ता है, जो केवल 3 से 5 सेकंड की ऑडियो का उपयोग करता है।

किंत्सुगी उन लोगों के लिए क्रांतिकारी हो सकता है जो मानसिक स्वास्थ्य से जूझते हैं, खासकर उन क्षेत्रों में जहां पेशेवरों के साथ उपचार प्राप्त करने में समय और संसाधन लगते हैं। उसी समय, इसकी प्रौद्योगिकी डीपफेक डिटेक्शन और साइबर सुरक्षा के लिए एक क्रांति का प्रतिनिधित्व करती है: प्रामाणिकता का पता लगाना न कि डीपफेक को पहचानना।

मानव-केंद्रित तकनीक पर भविष्य

साइबर सुरक्षा ने लंबे समय से तकनीकों के दुर्भावनापूर्ण उपयोग या अपराधियों पर ध्यान केंद्रित किया है। किंत्सुगी की दुर्घटनावश खोज, हालांकि, मानवता पर दांव लगाती है।

“हम एक पूरी तरह से अलग सतह क्षेत्र पर काम कर रहे हैं: मानव प्रामाणिकता स्वयं। एलएलएम अपने जैसे मॉडलों द्वारा बनाई गई सामग्री को विश्वसनीय ढंग से पहचान नहीं सकते, और कलाकृति-आधारित विधियां नाजुक हैं। बड़े, नैदानिक रूप से लेबल वाले डेटासेट को कैप्चर करना जो वास्तविक मानव परिवर्तनशीलता को एनकोड करता है, महंगा है, धीमा है, और अधिकांश सुरक्षा कंपनियों के मुख्य विशेषज्ञता से बाहर है – जो इस दृष्टिकोण को दोहराना मुश्किल बनाता है,” चांग ने कहा।

स्टार्टअप का दृष्टिकोण एक व्यापक बदलाव का सुझाव देता है: क्रॉस-डोमेन नवाचार। स्वास्थ्य देखभाल के अग्रणी लोग एआई-समर्थित विशिंग पहचान में नेतृत्व कर सकते हैं, जैसे कि अंतरिक्ष प्रौद्योगिकी में नवोन्मेषक आपातकालीन प्रतिक्रिया तंत्र का समर्थन कर सकते हैं, या वीडियो गेम खेलने वाले लोग वास्तुकला और शहरी योजना में योगदान दे सकते हैं।

चांग के लिए, वह वॉइस इंटरैक्शन के माध्यम से वास्तविक मानवों और अंततः वास्तविक इरादे की पुष्टि करने के लिए एक मानक बनने की योजना बना रही है।

“जैसे HTTPS वेब के लिए एक डिफ़ॉल्ट विश्वास परत बन गया है, हम मानते हैं कि ‘मानव प्रमाण’ वॉइस-आधारित प्रणालियों के लिए एक मूलभूत परत बन जाएगा। सिग्नल इस बुनियादी ढांचे की शुरुआत है,” उन्होंने कहा।

जैसा कि जनरेटिव एआई तेजी से तेजी से आगे बढ़ रहा है, सबसे प्रभावी सुरक्षा उपाय मानव को मानव बनाने वाली चीजों को समझने से आ सकते हैं।

सालोमे मेडेलिन में जन्मी पत्रकार हैं और Espacio Media Incubator में वरिष्ठ रिपोर्टर हैं। इतिहास और राजनीति की पृष्ठभूमि वाली सालोमे का काम उभरती तकनीकों के सामाजिक महत्व पर ज़ोर देता है। उनका काम Al Jazeera, Latin America Reports और The Sociable सहित कई मंचों पर प्रकाशित हुआ है।