Bir Mental Sağlık AI Aracı Nasıl Kazara Doğru Derin Sahte Tespit Edildi

Teknoloji devi Open AI, Eylül 2025’te Sora 2 video ve ses üretme modelini piyasaya sürdüğünde, derin sahte videolar sosyal medya platformlarını sel gibi kapladı ve izleyicileri potansiyel olarak tehlikeli olan hyper-gerçekçi içerikle tanıştırdı.

Open AI, Sora 2’nin sorumlu bir şekilde piyasaya sürülmesini öncelikli bir hedef olarak görse de, kullanıcıların “gördükleri şeyin kontrolünü ellerinde tutmalarına” ve benzerliklerinin uçtan uca kontrolünü sağlamalarına olanak tanıyan bir araç olduğunu iddia etti. Ancak Ekim 2025’te yapılan bir araştırma, modelin %80 oranında yanlış iddialı videolar ürettiğini ortaya koydu.

Moldova’da bir seçim yetkilisinin oyları yok ettiğini gösteren videolardan, göçmen memurları tarafından tutuklanan bir çocuğun uydurma sahnelerine veya bir Coca-Cola sözcüsünün şirketin Süper Kupa’yı sponsorluğunu yapmayacağını açıkladığı sahnelerine kadar, birbirine bağlı bir dünyada yanlış bilgi üretme riskleri hiç bu kadar yüksek olmamıştı.

Sora’nın Ötesinde: Vishing

Open AI aracının piyasaya sürülmesinden önce, derin sahte dosyalarının oluşturulması ve online dağıtılması already artıyordu. Siber güvenlik firması DeepStrike’ın Eylül 2025 raporuna göre, derin sahte içerik 2023’teki 500.000’den 2025’te 8 milyona fırladı ve bunların çoğu sahtekarlık amacıyla kullanıldı.

Eğilim durmak bilmemekle birlikte, alleen ABD’de AI sahtekarlığı 2027 yılına kadar 40 milyar doları bulması beklenmektedir.

Araçlar gibi Sora 2 ve Google’ın Veo 3 ile birlikte, AI tarafından oluşturulan yüzler, sesler ve tam vücut performanslarının gerçekçi içeriği şimdi daha gerçekçi.

Gerçek sahtekarlık tespiti – su işareti tanımlama, hava fırçası yüzleri ve meta veri kontrolleri dahil – başarısız oluyor. Ve ses sahtekarlıkları hala AI ile etkinleştirilen sahtekarlığın ikinci en yaygın şekli olarak kalırken, ses sahtekarlığı (vishing) 2025 yılında %442 arttı ve sonuçlar zaten hissedilmeye başlandı.

“Birkaç saniye ses artık doğal tonlama, ritim, vurgulama, duygusal ve nefes alma gürültüsü ile birlikte ikna edici bir klon oluşturmak için yeterli,” dedi Lyu.

İnsanları Dinlemenin Bilimi

Kintsugi, klinik depresyon ve anksiyeteyi tespit etmek için ses biyobelirteçleri geliştiren bir sağlık teknolojisi şirketi. Çalışmaları, basit bir öneme dayanıyordu: insanları dinlememiz gerekiyor.

“Kintsugi’yi, bir problemi persönlich olarak deneyimlediğim için kurdum. Tedavi randevusu almak için beş ay boyunca sağlayıcıma ulaşmaya çalıştım, ancak kimse asla aramaları geri çevirmedi. Devam ettim, ancak çok açık bir şekilde, bu benim babam veya kardeşim olsaydı, ben yapmadan önce dururdu, diye düşündüğümü hatırlıyorum,” dedi CEO Grace Chang, Unite.AI ile konuşurken.

Kaliforniya merkezli şirket, 2019 yılında “triage bottleneck” olarak adlandırdığı bir soruna çözüm olarak kuruldu. Kurucu, daha erken ve pasif olarak ciddiyetin tespit edilmesinin, insanların doğru bakım seviyesine daha hızlı ulaşmasına yardımcı olabileceğine inanıyordu. Ve Kintsugi Voice, ses biyobelirteçleri aracılığıyla klinik depresyon ve anksiyeteyi tanımlar.

AI destekli konuşma ve ses analizi, mental sağlık koşulları için bir biyobelirteç olarak başarılı bir şekilde kullanıldığını gösteren araştırmalar vardır. Mayıs 2025’te yapılan bir çalışmada, akustik biyobelirteçlerin mental sağlık ve nörodiversiteye erken işaretleri tespit edebileceği ve klinik ortamlarda bilişsel gerilemeyi değerlendirmek için şarkı analizlerinin entegrasyonunu savunduğu bulundu.

Ses ölçümleri, aslında, depresyonu olan insanları olmayanlar arasında %78 ile %96 arasında bir doğruluk oranıyla tespit edebilir, Amerikan Psikiyatri Derneği’ne göre. Bir başka çalışma, bir dakika süren sözel akıcılık testinde, bir kategori içinde verilen süre içinde mümkün olduğunca çok kelimeyi adlandıran bir kişide, depresyon ve anksiyete olan bir kişide %70 ile %83 arasında bir doğruluk payı buldu.

Kintsugi, kullanıcılarının mental sağlığını değerlendirmek için kısa bir konuşma klipini ister, ardından ses biyobelirteç teknolojisi, perde, ton, ton ve duraklamaları analiz eder – depresyon, anksiyete, bipolar bozukluk ve demans gibi durumlarla ilişkili olduğu bilinen işaretler.

Ancak Chang, teknolojisinin aslında güvenlik endüstrisinin en acil sorunlarından birini çözüme ulaştırdığının farkında değildi: insan seslerinin insan olduğunu belirleme.

Ruh Sağlığı Bakımından Siber Güvenliğe

2025’in sonlarında New York’ta bir zirveye katılırken, Chang, siber güvenlik alanındaki bir arkadaşına, sentetik sesler üzerindeki deneylerinin hayal kırıklığına uğradığını söyledi.

“Sentetik veri kullanarak mental sağlık modellerimizi eğitmek için deneyler yaptık, ancak oluşturulan sesler gerçek insan konuşmasından o kadar farklıydı ki, neredeyse %100 oranında ayırt edebiliyorduk,” dedi.

“Durdurup ‘Grace, bu güvenlikte çözülmemiş bir sorun’ dedi. Her şey o anda tıkandı. O günden beri, güvenlik, finansal hizmetler ve telekom şirketleri ile yapılan görüşmeler, derin sahte ses saldırılarının ne kadar hızlı arttığını ve canlı aramalarda insan seslerinden sentetik sesleri ayırt etme ihtiyacının ne kadar gerçek olduğunu doğruladı,” diye ekledi CEO.

Geçen yıl Nisan ayında, FBI, eski hükümet çalışanlarını ve temaslarını hedef alan ve üst düzey ABD’li yetkililerden gelen iletişimler olarak görünen kötü niyetli bir metin ve ses mesajı kampanyası konusunda uyardı. ABD’deki büyük ulusal bankalar da günde ortalama 5,5 ses manipülasyonu sahtekarlığı ile hedef alındı ve Vanderbilt Üniversitesi Tıp Merkezi’ndeki hastane personeli, arkadaşlar, denetçiler ve iş arkadaşları olarak gizlenen sahtekarlarla vishing saldırılarına maruz kaldı.

Kintsugi’nin teknolojisi, insan seslerinin biyolojik ve bilişsel kalıntılarını taşımadığından, sentetik seslerden ayırt edilebileceğini kanıtladı. Şirketin modeli, sadece 3 ila 5 saniye ses kullanarak tespit doğruluğunda üst düzey bir performans gösteriyor.

Kintsugi, özellikle profesyonellerle tedavi almak için zaman ve kaynak gerektiren alanlarda mental sağlık sorunlarıyla mücadele edenler için devrim niteliğinde olabilir. Aynı zamanda, derin sahte tespit ve siber güvenlik için de bir devrim olabilir: sahtekarlık tanıma yerine insan doğrulama.

Gelecek İnsan Merkezli Teknolojiye Ait

Siber güvenlik, uzun süredir kötü niyetli teknoloji kullanımına veya suçlulara odaklandı. Kintsugi’nin kazara keşfi ise insanlığa bahis oynuyor.

“Tamamen farklı bir yüzey alanında çalışıyoruz: insan doğruluğu. Büyük dil modelleri, büyük dil modeli tarafından oluşturulan içeriği güvenilir bir şekilde tespit edemez ve kalıntı tabanlı yöntemler kırılgandır. Gerçek insan değişkenliğini kodlayan büyük, klinik olarak etiketlenmiş veri setlerini yakalamak pahalı, yavaş ve çoğu güvenlik şirketinin core uzmanlığı dışında kalıyor – bu nedenle bu yaklaşımı yeniden üretmek zor,” dedi Chang.

Şirketin yaklaşımı, daha geniş bir değişimi de öneriyor: alanlar arası yenilik. Sağlık hizmetlerinde önde gelenler, AI destekli vishing tespitinde önderlik edebilecekler, tıpkı uzay teknolojisi öncülerinin yeni acil durum müdahale mekanizmaları desteklemesi veya oyun geliştiricilerin mimari ve şehir planlamasına katkıda bulunması gibi.

Chang, sonunda ses iletişimlerinde gerçek insanların ve gerçek niyetin standardını oluşturmayı planlıyor.

“HTTPS web için bir güven katmanı haline geldiği gibi, ‘insan kanıtı’nı ses tabanlı sistemler için temel bir katman haline getireceğimize inaniyoruz. Sinyal, bu altyapının başlangıcı,” dedi.

Yenilikçi AI devam ederken, en etkili güvenceler, insanları insan yapan şeyleri anlamaktan gelebilir.