मानसिक स्वास्थ्य एआई टूल ने दुर्घटनावश सटीक डीपफेक डिटेक्शन का पता लगाया

जब तकनीकी दिग्गज ओपन एआई ने सितंबर 2025 में अपने फ्लैगशिप सोरा 2 वीडियो और ऑडियो जेनरेशन मॉडल को लॉन्च किया, तब से डीपफेक वीडियो सोशल मीडिया प्लेटफॉर्म पर बाढ़ आ गई, जिससे दर्शकों को संभावित रूप से खतरनाक हाइपर-रियलिस्टिक सामग्री के साथ तेजी से परिचित कराया जा रहा है।

हालांकि ओपन एआई ने सोरा 2 को जिम्मेदारी से लॉन्च करने को शीर्ष प्राथमिकता के रूप में माना, जिसमें दावा किया गया था कि यह उपयोगकर्ताओं को “जो वे अपने फीड में देखते हैं उस पर नियंत्रण” और अपने समानता के अंत में नियंत्रण देगा, एक अक्टूबर 2025 के अध्ययन में पाया गया कि मॉडल ने 80% समय झूठे दावे वाले वीडियो का उत्पादन किया।

न्यूज रिपोर्ट की नकल करने वाले वीडियो से लेकर एक मोल्डोवन चुनावी अधिकारी के मतपत्रों को नष्ट करने के झूठे दृश्य या एक कोका-कोला प्रवक्ता के घोषणा करने के लिए कि कंपनी सुपर बाउल को प्रायोजित नहीं करेगी, जैसे कि जालसाजी के लिए डीपफेक फाइलों के निर्माण और ऑनलाइन प्रसार में वृद्धि हो रही है।

सोरा से परे: विशिंग

ओपन एआई के टूल लॉन्च होने से पहले ही, डीपफेक फाइलों का निर्माण और ऑनलाइन प्रसार बढ़ रहा था। साइबर सुरक्षा फर्म डीपस्ट्राइक की एक सितंबर 2025 की रिपोर्ट के अनुसार, डीपफेक सामग्री 2023 में 500,000 से बढ़कर 2025 में 8 मिलियन हो गई, जिसमें से अधिकांश का उपयोग धोखाधड़ी के उद्देश्यों के लिए किया गया था।

यह रुझान रुकने के कोई संकेत नहीं दिखा रहा है; अमेरिका में अकेले एआई धोखाधड़ी 2027 तक 40 अरब अमेरिकी डॉलर तक पहुंचने की उम्मीद है।

ऐसी वृद्धि मात्रा तक ही सीमित नहीं है। सोरा 2 और गूगल के वियो 3 जैसे टूल के साथ, एआई-जेनरेटेड चेहरे, आवाज और पूर्ण-शरीर प्रदर्शन अब पहले से कहीं अधिक वास्तविक हैं। जैसा कि कंप्यूटर वैज्ञानिक और डीपफेक शोधकर्ता सीवेई ल्यू ने संकेत दिया है, समकालीन मॉडल स्थिर चेहरे का उत्पादन कर सकते हैं जो विकृत या विकृत नहीं हैं, जबकि आवाज क्लोनिंग ने “अंतर्निहित सीमा” पार कर ली है।

सत्य यह है कि डीपफेक्स डिटेक्शन से आगे निकल रहे हैं। जो तकनीक कंपनियां मज़े के लिए सब कुछ जनरेट करने के लिए टूल बेचती हैं, उसे अपराधियों ने व्यवसायों और व्यक्तियों दोनों को निशाना बनाने के लिए भी उपयोग किया है। सिर्फ 2025 की पहली छमाही में, डीपफेक घटनाओं ने कंपनियों के लिए 356 मिलियन अमेरिकी डॉलर के नुकसान और व्यक्तियों के लिए 541 मिलियन अमेरिकी डॉलर के नुकसान का कारण बना।

पारंपरिक डीपफेक डिटेक्शन – जिसमें वॉटरमार्क, एयरब्रश किए गए चेहरे और मेटाडेटा जांच शामिल हैं – विफल हो रहा है। और, जैसा कि वॉइस डीपफेक्स दूसरा सबसे आम रूप है एआई-संचालित धोखाधड़ी और वॉइस फ़िशिंग (विशिंग) 2025 में 442% बढ़ गया, परिणाम पहले से ही महसूस किए जा रहे हैं।

मानवों को सुनने का विज्ञान

किंत्सुगी, एक हेल्थटेक स्टार्टअप जो क्लिनिकल अवसाद और चिंता का पता लगाने के लिए एआई वॉइस बायोमार्कर प्रौद्योगिकी विकसित कर रहा है। उनका काम एक सरल धारणा से शुरू हुआ: हमें मानवों को सुनना होगा।

“मैंने किंत्सुगी की शुरुआत एक समस्या के कारण की जो मैंने व्यक्तिगत रूप से अनुभव की थी। मैंने लगभग पांच महीने तक अपने प्रदाता को फोन किया केवल एक प्रारंभिक चिकित्सा नियुक्ति को शेड्यूल करने के लिए, और किसी ने कभी मेरी कॉल्स का जवाब नहीं दिया। मैंने试 किया – लेकिन मुझे याद है कि मैं बहुत स्पष्ट रूप से सोच रहा था कि अगर यह मेरे पिता या मेरे भाई होते, तो वे पहले ही रुक जाते,” सीईओ ग्रेस चांग ने यूनाइट.एआई के साथ बातचीत में कहा।

कैलिफोर्निया स्थित कंपनी की स्थापना 2019 में एक “ट्राइज बोतलनेक” के समाधान के रूप में की गई थी। संस्थापक ने माना कि पहले और निष्क्रिय रूप से गंभीरता का पता लगाने से लोगों को सही देखभाल के स्तर तक पहुंचाने में मदद मिल सकती है। और, किंत्सुगी वॉइस के माध्यम से, वॉइस बायोमार्कर क्लिनिकल अवसाद और चिंता की पहचान करते हैं।

शोध से पता चलता है कि मानसिक स्वास्थ्य स्थितियों के लिए बायोमार्कर के रूप में एआई-संचालित भाषण और वॉइस विश्लेषण का सफलतापूर्वक उपयोग किया जा सकता है। एक मई 2025 के पेपर में, उदाहरण के लिए, पाया गया कि अकουσ्टिक बायोमार्कर मानसिक स्वास्थ्य और तंत्रिका विकार के 초기 संकेतों का पता लगा सकते हैं, और नैदानिक सेटिंग्स में रोगियों की संभावित कognitive गिरावट का मूल्यांकन करने के लिए गायन विश्लेषण के एकीकरण का तर्क दिया।

वॉइस उपायों में वास्तव में अवसाद वाले लोगों की पहचान करने की 78% से 96% की सटीकता दर है, अमेरिकी मनश्चिकित्सा संघ के अनुसार। एक अन्य अध्ययन में एक मिनट का मौखिक फ्लूएंसी परीक्षण का उपयोग किया गया था, जिसमें एक व्यक्ति ने एक दिए गए श्रेणी में जितनी बार संभव हो उतने शब्दों का नाम लिया – 70% से 83% की सटीकता के साथ यह पता लगाने में कि विषय में अवसाद और चिंता दोनों थीं।

अपने उपयोगकर्ताओं के मानसिक स्वास्थ्य का आकलन करने के लिए, किंत्सुगी एक छोटी सी भाषण क्लिप का अनुरोध करता है, जिसके बाद इसकी वोकल बायोमार्कर प्रौद्योगिकी पिच, स्वर, स्वर और रुकावटों का विश्लेषण करती है – मार्कर जो अवसाद, चिंता, द्विध्रुवी विकार और मनोभ्रंश जैसी स्थितियों से जुड़े हुए हैं।

चांग ने जो नहीं महसूस किया था, वह यह था कि प्रौद्योगिकी ने सुरक्षा उद्योग की सबसे दबाव वाली समकालीन चुनौतियों में से एक को अनलॉक किया था: यह पहचानना कि मानव आवाज़ को मानव बनाता है।

मानसिक स्वास्थ्य देखभाल से साइबर सुरक्षा तक

न्यूयॉर्क में 2025 के अंत में एक शिखर सम्मेलन में भाग लेते हुए, चांग ने एक साइबर सुरक्षा क्षेत्र में एक मित्र से उल्लेख किया कि उनकी टीम के सिंथेटिक आवाज़ के साथ प्रयोग निराशाजनक रहा था।

“हम अपने मानसिक स्वास्थ्य मॉडलों के लिए प्रशिक्षण के लिए सिंथेटिक डेटा की खोज कर रहे थे, लेकिन उत्पन्न आवाज़ वास्तविक मानव भाषण से इतनी अलग थी कि हम लगभग 100% समय बता सकते थे,” उन्होंने कहा।

“उन्होंने मुझे रोका और कहा, ‘ग्रेस – यह सुरक्षा में एक हल की गई समस्या नहीं है।’ यह वह क्षण था जब सब कुछ क्लिक हुआ। तब से, सुरक्षा, वित्तीय सेवाओं और टेल्को कंपनियों के साथ बातचीत ने पुष्टि की है कि डीपफेक वॉइस हमले कितनी तेजी से बढ़ रहे हैं – और जीवित कॉल में मानव और सिंथेटिक आवाजों के बीच अंतर करने की आवश्यकता कितनी वास्तविक है।

पिछले अप्रैल में, एफबीआई ने एक दुर्भाग्यपूर्ण पाठ और वॉइस संदेश अभियान की चेतावनी दी जो वरिष्ठ अमेरिकी अधिकारियों के संचार के रूप में प्रस्तुत की जाती थी और पूर्व सरकारी कार्यकर्ताओं और उनके संपर्कों को लक्षित करती थी। अमेरिका में बड़े राष्ट्रीय बैंक भी 5.5 औसत दैनिक वॉइस मैनिपुलेशन धोखाधड़ी प्रयासों के साथ लक्षित थे, और वैंडरबिल्ट यूनिवर्सिटी मेडिकल सेंटर के अस्पताल कर्मचारियों ने मित्रों, पर्यवेक्षकों और सहकर्मियों के रूप में प्रस्तुत करने वाले प्रतिरूपणकर्ताओं से विशिंग हमलों की सूचना दी।

किंत्सुगी के काम में शुरू में डीपफेक्स नहीं थे। जबकि कंपनी की टीम प्रशासनिक कॉल सेंटर एजेंटों और आउटबाउंड कार्य प्रवाहों के लिए सिंथेटिक आवाज़ के साथ प्रयोग करने के लिए कार्टेसिया, सेसम और इलेवनलैब्स जैसे ऑफ-द-शेल्फ मॉडल का उपयोग कर रही थी, डीपफेक धोखाधड़ी उनके फोकस में नहीं थी जब एक भीड़भाड़ वाले और सुलभ बाजार में मॉडल जैसे सोरा थे।

मानव आवाज़ की प्रामाणिकता को इंगित करने वाले मानव-स्तरीय संकेत वे बायोमार्कर हैं जो किसी को मानव बनाते हैं। भाषा या अर्थव्यवस्था की परवाह किए बिना, किंत्सुगी वॉइस सिग्नल प्रोसेसिंग और भाषण की शारीरिक विलंबता के साथ काम करता है, जो सूक्ष्म टाइमिंग, प्रोसोडिक परिवर्तनशीलता, संज्ञानात्मक भार, और शारीरिक मार्करों को पकड़ता है जो यह दर्शाते हैं कि भाषण कैसे उत्पन्न होता है … न कि क्या कहा जाता है।

“सिंथेटिक आवाज़ फ्लूएंट लग सकती है, लेकिन वे समान जैविक और संज्ञानात्मक कलाकृतियों को ले जाने वाले नहीं हैं,” चांग ने कहा। कंपनी का मॉडल लगातार पता लगाने की सटीकता में शीर्ष-दशमे प्रदर्शनकर्ता है, जो केवल 3 से 5 सेकंड की ऑडियो का उपयोग करता है।

किंत्सुगी उन लोगों के लिए क्रांतिकारी हो सकता है जो मानसिक स्वास्थ्य से जूझते हैं, खासकर उन क्षेत्रों में जहां पेशेवरों के साथ उपचार प्राप्त करने में समय और संसाधन लगते हैं। उसी समय, इसकी प्रौद्योगिकी डीपफेक डिटेक्शन और साइबर सुरक्षा के लिए एक क्रांति का प्रतिनिधित्व करती है: प्रामाणिकता का पता लगाना न कि डीपफेक को पहचानना।

मानव-केंद्रित तकनीक पर भविष्य

साइबर सुरक्षा ने लंबे समय से दुर्भाग्यपूर्ण तकनीकों या अपराधियों पर ध्यान केंद्रित किया है। किंत्सुगी की दुर्घटनावश खोज, हालांकि, मानवता पर दांव लगाती है।

“हम एक पूरी तरह से अलग सतह क्षेत्र पर काम कर रहे हैं: मानव प्रामाणिकता स्वयं। एलएलएम डीपफेक सामग्री का पता लगाने में विश्वसनीय नहीं हो सकते हैं, और कलाकृति-आधारित विधियां नाजुक हैं। बड़े, नैदानिक रूप से लेबल वाले डेटासेट को कैप्चर करना जो वास्तविक मानव परिवर्तनशीलता को एनकोड करता है, महंगा है, धीमा है, और अधिकांश सुरक्षा कंपनियों के मुख्य विशेषज्ञता से बाहर है – जो इस दृष्टिकोण को दोहराना मुश्किल बनाता है,” चांग ने कहा।

स्टार्टअप का दृष्टिकोण एक व्यापक बदलाव का सुझाव देता है: क्रॉस-डोमेन नवाचार। स्वास्थ्य देखभाल में अग्रणी लोग डीपफेक्स का पता लगाने में मदद कर सकते हैं, जैसे कि अंतरिक्ष प्रौद्योगिकी में नवोन्मेषक आपातकालीन प्रतिक्रिया तंत्र का समर्थन कर सकते हैं, या गेमिंग वास्तुकला और शहरी योजना का समर्थन कर सकते हैं।

चांग के लिए, वह वॉइस इंटरैक्शन के माध्यम से वास्तविक मानवों और अंततः वास्तविक इरादे की पुष्टि करने के लिए एक मानक बनने की योजना बना रही है।

“जैसे HTTPS वेब के लिए एक डिफ़ॉल्ट विश्वास परत बन गया है, हम मानते हैं कि ‘मानव प्रमाण’ वॉइस-आधारित प्रणालियों के लिए एक मूलभूत परत बन जाएगा। सिग्नल इस बुनियादी ढांचे की शुरुआत है,” उन्होंने कहा।

जैसा कि जनरेटिव एआई तेजी से तेजी से आगे बढ़ रहा है, सबसे प्रभावी सुरक्षा उपाय मानव को मानव बनाने वाली चीजों को समझने से आ सकते हैं।