Yapay zeka modelleri ve platformları

Bir ruh sağlığı AI aracı, doğru deepfake tespitini nasıl tesadüfen keşfetti?

Salomé Beyer Velez
Unite.AI sitesini Google'daki tercih ettiğiniz kaynaklara ekleyin
Öne çıkan noktalarDeepfake dolandırıcılığı tespitten daha hızlı ilerliyor çünkü sentetik sesler artık…
Daha fazla göster
  • Deepfake dolandırıcılığı tespitten daha hızlı ilerliyor çünkü sentetik sesler artık ayırt edilemezlik eşiğini aşıyor.
  • Kintsugi'nin ruh sağlığı ses biyobelirteçleri, insan konuşmasının sentetik seslerde bulunmayan biyolojik izler taşıdığını kazara ortaya çıkardı.
  • Özgünlük tespiti, deepfake tanımanın peşinden gitmek yerine ses sistemleri için güven katmanı haline gelebilir.

Teknoloji devi Open AI, amiral gemisi video ve ses üretim modeli Sora 2’yi Eylül 2025’te piyasaya sürdüğünde, deepfake videolar sosyal medya platformlarını doldurdu ve izleyicileri potansiyel olarak tehlikeli, son derece gerçekçi içerikle giderek daha fazla karşılaştırdı.

Open AI, Sora 2’nin sorumlu biçimde piyasaya sürülmesini öncelik sayıyor; kullanıcılara ‘akışlarında gördüklerini kontrol etmeleri için araç ve seçenekler’ ve kendi görünümlerinin kullanımı üzerinde uçtan uca kontrol sunacağını söylüyordu. Buna rağmen Ekim 2025 tarihli bir araştırma, modelin vakaların %80’inde yanlış iddialar içeren videolar ürettiğini buldu.

Moldovalı bir seçim görevlisinin oy pusulalarını yok ettiğine ilişkin haberleri taklit eden videolardan göçmenlik görevlilerince alıkonulan küçük bir çocuğun uydurma görüntülerine veya Coca-Cola (KO ) sözcüsünün şirketin Super Bowl’a sponsor olmayacağını açıkladığı sahnelere kadar, bağlantılı bir dünyada yanlış bilgi üretmenin riskleri son derece yüksek.

Sora’nın ötesinde: Sesli oltalama (Vishing)

Open AI’ın aracı çıkmadan önce de deepfake dosyalarının üretilmesi ve internette yayılması artıyordu. Siber güvenlik şirketi DeepStrike’ın Eylül 2025 tarihli raporuna göre, deepfake içerik sayısı 2023’te 500.000 iken 2025’te 8 milyona ulaştı; büyük bölümü dolandırıcılık için kullanıldı.

Eğilim durma belirtisi göstermiyor. Yalnızca ABD’deki AI dolandırıcılığının 2027’ye kadar 40 milyar ABD dolarına ulaşması bekleniyor.

Artış yalnızca sayısal değil. Sora 2 ve Google’ın (GOOGL ) Veo 3 modeli gibi araçlarla AI’ın ürettiği yüzler, sesler ve tüm vücut performansları her zamankinden gerçekçi. Bilgisayar bilimci ve deepfake araştırmacısı Siwei Lyu’nun belirttiği gibi, günümüz modelleri bozulma veya çarpılma olmadan sabit yüzler üretebiliyor; ses klonlama ise ‘ayırt edilemezlik eşiğini’ geçti.

Gerçek şu ki deepfake’ler tespit yöntemlerinin önüne geçiyor. Teknoloji şirketlerinin olimpik jimnastik rutinlerinden karmaşık arka plan seslerine kadar her şeyi üretmek için eğlenceli araçlar olarak sattığı teknolojiler, suçlularca şirketleri ve bireyleri hedef almak için de kullanılıyor. Yalnızca 2025’in ilk yarısında deepfake olayları şirketler için 356 milyon, bireyler için 541 milyon ABD doları kayba yol açtı.

Filigranları, rötuşlanmış yüzleri ve meta verileri kontrol etmeyi içeren geleneksel deepfake tespiti başarısız oluyor. Ses deepfake’leri AI destekli dolandırıcılığın en yaygın ikinci türü olmaya devam ederken, sesli oltalama yani vishing 2025’te %442 arttı ve sonuçları şimdiden hissediliyor.

Lyu, ‘Artık doğal tonlama, ritim, vurgu, duygu, duraklamalar ve nefes sesiyle birlikte ikna edici bir klon üretmek için birkaç saniyelik ses yeterli’ diye yazdı.

İnsanları dinlemenin bilimi

Kintsugi, klinik depresyon ve kaygı belirtilerini tespit etmek üzere AI ses biyobelirteci teknolojisi geliştiren bir sağlık teknolojisi girişimi. Çalışmaları basit görünen bir öncülden başladı: İnsanları dinlemeliyiz.

CEO Grace Chang, Unite.AI ile görüşmesinde ‘Kintsugi’yi bizzat yaşadığım bir sorun yüzünden kurdum. İlk terapi randevusunu almak için yaklaşık beş ay boyunca sağlık hizmeti sağlayıcımı aradım, kimse geri dönmedi. Denemeye devam ettim ama çok net düşündüğümü hatırlıyorum: Babam veya erkek kardeşim olsa benden çok önce vazgeçerdi’ dedi.

Kaliforniya merkezli şirket 2019’da, Chang’in ‘triyaj darboğazı’ diye tanımladığı soruna çözüm olarak kuruldu. Kurucu, durumun ciddiyetini daha erken ve pasif biçimde saptamanın insanları uygun bakım düzeyine daha hızlı ulaştırabileceğine inanıyordu. Kintsugi Voice aracılığıyla ses biyobelirteçleri klinik depresyonu ve kaygıyı belirliyor.

AI destekli konuşma ve ses analizinin ruh sağlığı durumları için biyobelirteç olarak başarıyla kullanılabildiğini gösteren çok sayıda araştırma var. Örneğin Mayıs 2025 tarihli bir makale, akustik biyobelirteçlerin ruh sağlığı durumları ve nöroçeşitliliğin erken işaretlerini tespit edebildiğini buldu; olası bilişsel gerilemeyi değerlendirmek için şarkı söyleme analizlerinin klinik ortamlara katılmasını savundu.

Amerikan Psikiyatri Birliğine göre, ses ölçümleri depresyonu olan ve olmayan kişileri ayırt etmede %78–96 doğruluğa sahip. Başka bir araştırma, kişinin bir kategoride mümkün olduğunca çok sözcük söylediği bir dakikalık sözel akıcılık testi kullandı ve aynı anda hem depresyon hem kaygı yaşayanları tespit etmede %70–83 doğruluk buldu.

Kintsugi, kullanıcıların ruh sağlığını değerlendirmek için kısa bir konuşma kaydı istiyor. Ses biyobelirteci teknolojisi daha sonra perde, tonlama, ses rengi ve duraklamaları analiz ediyor. Bu işaretlerin depresyon, kaygı, bipolar bozukluk ve demans gibi durumlarla ilişkili olduğu bulunmuş durumda.

Chang’in başta fark etmediği şey, teknolojinin güvenlik sektörünün en acil güncel sorunlarından birini çözmüş olmasıydı: İnsan seslerini insan yapan özellikleri belirlemek.

Ruh sağlığı bakımından siber güvenliğe

Chang, 2025’in sonlarında New York’taki bir zirvede, siber güvenlik alanındaki bir arkadaşına ekibinin sentetik ses deneylerinin hayal kırıklığı yarattığını anlattı.

‘Ruh sağlığı modellerimizin eğitimini desteklemek için sentetik veriyi araştırıyorduk. Ama üretilen sesler gerçek insan konuşmasından o kadar farklıydı ki neredeyse %100 oranında ayırt edebiliyorduk’ dedi.

CEO, ‘Beni durdurdu ve Grace, bu güvenlikte çözülmüş bir sorun değil, dedi. Her şey o anda yerine oturdu. O günden beri güvenlik, finansal hizmet ve telekom şirketleriyle görüşmeler, deepfake ses saldırılarının ne kadar hızlı arttığını ve canlı aramalarda insan sesini sentetik sesten ayırmanın ne kadar gerçek bir ihtiyaç olduğunu doğruladı’ diye ekledi.

Geçen yıl nisanda FBI, üst düzey ABD yetkililerinden geliyormuş gibi görünen ve eski kamu çalışanlarıyla onların bağlantılarını hedef alan kötü amaçlı metin ve ses mesajı kampanyasına karşı uyardı. ABD’deki büyük ulusal bankalar da günde ortalama 5,5 ses manipülasyonu dolandırıcılığı girişimine hedef oldu. Vanderbilt University Medical Center çalışanları ise arkadaş, yönetici ve meslektaş kılığına giren kişilerden vishing saldırıları bildirdi.

Başlangıçta deepfake’ler Kintsugi’nin çalışmasının parçası değildi. Ekip, idari çağrı merkezi görevlileri ve dış arama iş akışları için sentetik sesleri denemek üzere Cartesia, Sesame ve ElevenLabs gibi hazır modeller kullanıyordu. Sora gibi modellerin yer aldığı kalabalık ve erişilebilir pazarda deepfake dolandırıcılığı odak noktaları değildi.

Sesin gerçekliğine işaret eden insan düzeyindeki sinyaller, birini insan yapan biyobelirteçlerle aynı. Kintsugi Voice, dil veya anlamdan bağımsız olarak sinyal işleme ve konuşmanın fiziksel gecikmesiyle çalışıyor. İnce zamanlama ayrıntılarını, prozodik değişkenliği, bilişsel yükü ve fizyolojik işaretleri yakalayarak ne söylendiğini değil, konuşmanın nasıl üretildiğini inceliyor.

Chang, ‘Sentetik sesler akıcı gelebilir ama aynı biyolojik ve bilişsel izleri taşımaz’ dedi. Şirketin modeli tespit doğruluğunda sürekli en iyi %10 içinde yer alıyor ve yalnızca 3–5 saniyelik ses kullanıyor.

Kintsugi, özellikle uzman tedavisine erişmenin zaman ve kaynak gerektirdiği yerlerde ruh sağlığı sorunları yaşayanlar için devrim yaratabilir. Aynı şekilde teknoloji, deepfake tespiti ve genel siber güvenlik için de dönüşüm sunuyor: Deepfake’i tanımak yerine gerçekliği tespit etmek.

Gelecek insan merkezli teknolojide

Siber güvenlik uzun süredir teknolojilerin kötü amaçlı kullanımına veya faillerin kendisine odaklanıyor. Kintsugi’nin tesadüfi keşfi ise insanlığın kendisine güveniyor.

Chang, ‘Tamamen farklı bir alanda çalışıyoruz: İnsan gerçekliğinin kendisi. LLM’ler LLM üretimi içeriği güvenilir biçimde tespit edemiyor ve yapaylık izlerine dayalı yöntemler kırılgan. Gerçek insan değişkenliğini kodlayan büyük, klinik olarak etiketlenmiş veri setlerini toplamak pahalı, yavaş ve çoğu güvenlik şirketinin temel uzmanlığı dışında. Bu da yaklaşımın kopyalanmasını zorlaştırıyor’ dedi.

Girişimin yaklaşımı daha geniş bir değişime, alanlar arası yeniliğe de işaret ediyor. Sağlık alanının öncüleri AI destekli vishing tespitine öncülük edebilir; tıpkı uzay teknolojisi yenilikçilerinin yeni acil müdahale mekanizmalarına, oyuncuların da mimari ve şehir planlamasına katkı sağlayabileceği gibi.

Chang, ses etkileşimleri yoluyla gerçek insanları ve sonunda gerçek niyeti doğrulamak için bir standart olmayı planlıyor.

‘HTTPS nasıl web için varsayılan güven katmanı olduysa, insan kanıtının da ses tabanlı sistemlerde temel bir katman olacağına inanıyoruz. Signal bu altyapının başlangıcı’ dedi.

Üretken AI hızlanmaya devam ederken en etkili korumalar, insanları insan yapan özellikleri anlamaktan gelebilir.

Salomé Medellín'de doğmuş bir gazeteci ve Espacio Media Incubator'da kıdemli muhabirdir. Tarih ve Siyaset alanında geçmişe sahip olan Salomé’nin çalışmaları, ortaya çıkan teknolojilerin sosyal açıdan önemini vurgulamaktadır. Al Jazeera, Latin America Reports ve The Sociable gibi birçok yerde yer almıştır.