Vijay Balasubramaniyan, Pindrop’un Kurucu Ortağı ve CEO’su – Röportaj Serisi

Vijay Balasubramaniyan, Pindrop’un kurucu ortaklarından ve CEO’sudur. Google, Siemens, IBM Research ve Intel’de çeşitli mühendislik ve araştırma rollerinde bulunmuştur.

Pindrop‘un çözümleri, her ses etkileşimi için kimlik, güvenlik ve güven standardını belirleyerek sesin geleceğine yön vermektedir. Pindrop’un çözümleri, dünyanın en büyük bankaları, sigorta şirketleri ve perakendecileri, her aramadan ve karşılaşılan her sesten istihbarat çıkaran patentli teknoloji kullanarak korumaktadır. Pindrop çözümleri, dolandırıcıları tespit etmeye ve gerçek müşterileri kimlik doğrulamaya yardımcı olur, böylece dolandırıcılığı ve operasyonel maliyetleri azaltırken müşteri deneyimini iyileştirir ve marka itibarını korur. Pindrop, özel bir şirket olarak Atlanta, GA’da merkezlenmiştir ve 2011 yılında Dr. Vijay Balasubramaniyan, Dr. Paul Judge ve Dr. Mustaque Ahamad tarafından kurulmuştur. Şirket, Andreessen Horowitz, Citi Ventures, Felicis Ventures, CapitalG, GV, IVP ve Vitruvian Partners tarafından desteklenmektedir. Daha fazla bilgi için lütfen pindrop.com’u ziyaret edin.

Pindrop’un 2024 Ses Zekası ve Güvenlik Raporu, ses tabanlı dolandırıcılık ve güvenlik konusundaki mevcut durum hakkında neler söylüyor?

Rapor, özellikle finansal ve finansal olmayan kurumları hizmet veren çağrı merkezlerinde güvenlik sorunları ve gelecekteki eğilimler hakkında derin bir analiz sunuyor. Raporun önemli bulguları arasında:

• Çağrı Merkezi Dolandırıcılığında Önemli Artış: Çağrı merkezi dolandırıcılığı, son iki yılda %60 artış göstererek 2019’dan bu yana en yüksek seviyelere ulaştı. Bu yılın sonunda, her 730 çağrıdan biri dolandırıcı olması beklenmektedir.
• Deepfake Saldırılarının Artan Karmaşıklığı: Deepfake saldırıları, sofistike sentetik ses klonları da dahil olmak üzere artıyor ve ABD çağrı merkezlerine 5 milyar dolarlık bir dolandırıcılık riski oluşturuyor. Bu teknoloji, otomatik ve yüksek ölçekli hesap keşfi, ses taklidi, hedefli smishing ve sosyal mühendislik gibi dolandırıcılık taktiklerini güçlendirmek için kullanılıyor.
• Geleneksel Dolandırıcılık Tespiti ve Kimlik Doğrulama Yöntemleri İşlemiyor: Şirketler hala tüketici kimlik doğrulaması için manuel yöntemlere güveniyor, bu da zaman alıcı, pahalı ve dolandırıcılığı durdurmada etkisiz. 350 milyon veri ihlali mağduru ve yıllık 12 milyar dolarlık kimlik doğrulama harcaması ile 10 milyar dolarlık dolandırıcılık kaybı, mevcut güvenlik yöntemlerinin işe yaramadığını gösteriyor.
• Yeni Yaklaşımlar ve Teknolojiler Gerekiyor: Canlılık tespiti, kötü AI’ye karşı savaşmak ve güvenliği artırmak için kritik önem taşıyor. Ses analizi hala önemli ancak canlılık tespiti ve çok faktörlü kimlik doğrulama ile birlikte kullanılması gerekiyor.

Rapora göre, ABD’li tüketicilerin %67,5’i bankacılık sektöründe deepfake’ler konusunda endişe duyuyor. Bankacılık sektörünün karşı karşıya olduğu deepfake tehditleri hakkında daha fazla bilgi verebilir misiniz?

Bankacılık sektöründe telefon kanalları aracılığıyla dolandırıcılık artıyor. Bu, birkaç faktörün sonucudur. Bankalar, şüpheli faaliyetleri müşterilerden onaylatmaya güveniyor, bu nedenle çağrı merkezleri dolandırıcılar için hedef haline gelebiliyor. Dolandırıcılar, müşteri hizmetleri temsilcilerini kandırmak için sosyal mühendislik taktiklerini kullanıyor, temsilcileri kısıtlamaları kaldırmaya veya çevrimiçi bankacılık kimlik bilgilerini sıfırlamaya ikna ediyor. Bir Pindrop bankacılık müşterisine göre, tespit edilen dolandırıcılık çağrılarının %36’sı, dolandırıcılık kontrolleri tarafından konulan tutturmayı kaldırmaya yönelik olarak yapılmıştır. Bir başka Pindrop bankacılık müşterisi, dolandırıcılık çağrılarının %19’unun çevrimiçi bankacılığa erişim sağlamaya yönelik olduğunu bildirmiştir. Yapay zeka ve deepfake’lerin yükselişiyle birlikte bu tür saldırılar daha da güçlü ve ölçeklenebilir hale gelmiştir. Şimdi, bir garajda bulunan bir veya iki dolandırıcı, sentetik sesler oluşturabilir ve birden fazla finans kuruluşuna aynı anda saldırı düzenleyebilir, böylece taktiklerini artırabilir. Bu, tüketiciler arasında deepfake saldırılarına karşı kurumların hazır olup olmadığı konusunda artan bir risk ve endişe yaratmıştır.

Yapay zeka alanındaki gelişmeler, deepfake’lerin yükselişine nasıl katkıda bulunmuştur ve bu, güvenlik sistemleri için hangi özel zorlukları oluşturur?

Deepfake’ler yeni değil, ancak yapay zeka alanındaki gelişmeler, özellikle son bir yıl içinde, daha inandırıcı ve büyük ölçekli hale gelmelerini sağlamıştır. Büyük dil modellerini daha inandırıcı konuşma ve dil oluşturmak için daha yetenekli hale getiren GenAI gelişmeleri, doğal sesli sentetik (sahte) konuşmanın ucuz ve büyük ölçekli olarak oluşturulmasını mümkün kılmıştır. Bu gelişmeler, deepfake’leri herkesin, hatta dolandırıcıların erişebileceği bir vektör haline getirmiştir. Bu deepfake’ler, güvenlik sistemlerini, highly inandırıcı phishing saldırıları, yanlış bilgi yayma ve gerçekçi taklitler yoluyla finansal dolandırıcılık yoluyla zorluyor. Geleneksel kimlik doğrulama yöntemlerini zayıflatıyorlar, önemli itibar riskleri oluşturuyor ve hızlı evrim ve ölçeklenebilirliklerine yetişmek için gelişmiş tespit teknolojileri talep ediyorlar.

Pindrop Pulse, Başkan Biden robocall saldırısında kullanılan TTS motorunu tespit etmede nasıl katkıda bulundu ve bu, gelecekteki deepfake tespiti için neler意味 ediyor?

Pindrop Pulse, Başkan Biden robocall saldırısında kullanılan ElevenLabs TTS motorunu tespit etmede kritik bir rol oynadı. Gelişmiş deepfake tespit teknolojimizi kullanarak, ses filtreleme ve temizleme, özellik çıkarma, segment analizi ve sürekli puanlama dahil olmak üzere dört aşamalı bir analiz süreci uyguladık. Bu süreç, konuşma dışı çerçeveleri filtrelememizi, sesi tipik telefon koşullarını taklit etmek için örneklememizi ve düşük seviyeli spektral-zamansal özellikleri çıkarmamızı sağladı.

Sesi 155 segmente ayırarak ve canlılık puanları atayarak, sesin tutarlı bir şekilde suni olduğunu belirledik. “Sahte parmak izleri” kullanarak, sesi 122 TTS sistemi ile karşılaştırdık ve %99 olasılıkla ElevenLabs veya benzer bir sistemin kullanıldığını tespit ettik. Bu bulgu, ElevenLabs SpeechAI Classifier ile %84 olasılıkla doğrulandı. Ayrıntılı analizimiz, özellikle Başkan Biden için zengin fricatives ve alışılmadık ifadeler içeren cümlelerde deepfake kalıntıları ortaya çıkardı.

Bu vaka, ölçeklenebilir ve açıklanabilir deepfake tespit sistemlerimizin önemini vurguluyor, bu da doğruluğu artırıyor, güven oluşturuyor ve yeni teknolojilere uyum sağlıyor. Ayrıca, sentetik medya tehditlerine karşı deepfake’lerin kötüye kullanılmasını önlemek için generatif AI sistemlerinin güvenlik önlemleri içermesi gerektiğinin altını çiziyor. Yaklaşımımız, sentetik medya tehditlerine karşı mücadele için bir standart belirliyor ve sürekli izleme ve araştırmaya ihtiyaç olduğunu vurguluyor.

Rapor, deepfake’lerin medya ve siyasi kurumları etkileyeceği konusunda önemli endişeler belirtiyor. Bu tür olaylara örnekler verebilir ve bunların potansiyel etkilerini açıklayabilir misiniz?

Araştırmamız, ABD’li tüketicilerin bankacılık ve finans sektöründe deepfake’ler ve ses klonları konusunda en çok endişe duyduğunu gösteriyor. Ancak bunun ötesinde, deepfake’lerin medya ve siyasi kurumları etkileme tehdidi eşit derecede önemli bir zorluk oluşturuyor. ABD dışında, Endonezya’da (Suharto deepfake) ve Slovakya’da (Michal Šimečka ve Monika Tódová ses deepfake) deepfake’lerin kullanımı gözlemlenmiştir.

2024, ABD ve Hindistan’da önemli seçim yılı olacak. 40 ülkeden 4 milyar kişinin oy kullanması bekleniyor ve yapay zeka teknolojisinin yayılması, insanların internet üzerinden kandırılmasını kolaylaştırdı. Hükümet kurumları, sosyal medya şirketleri, diğer haber medyası ve genel nüfus üzerinde hedefli deepfake saldırılarının artacağından ve kurumlarımıza güveni sarsmak ve kamuoyunda yanlış bilgi yaymak amacıyla tasarlandığından endişe ediyoruz.

Pindrop, deepfake’leri ve sentetik sesleri gerçek zamanlı olarak tespit etmek için hangi teknolojileri ve metodolojileri kullanıyor?

Pindrop, deepfake’leri ve sentetik sesleri gerçek zamanlı olarak tespit etmek için bir dizi gelişmiş teknoloji ve metodoloji kullanıyor, bunlar arasında:

• • Canlılık Tespiti: Pindrop, büyük ölçekli makine öğrenimi kullanarak konuşma dışı çerçeveleri (örneğin, sessizlik, gürültü, müzik) analiz ediyor ve suni sesi insan sesinden ayıran düşük seviyeli spektral-zamansal özellikleri çıkarıyor.
  • Ses Parmağı: Bu, her ses için akustik özelliklerine (örneğin, perde, ton, kadans) dayalı bir dijital imza oluşturmayı içerir. Bu imzalar daha sonra farklı çağrılar ve etkileşimler boyunca sesleri karşılaştırmak ve eşleştirmek için kullanılır.
  • Davranış Analizi – Bu, anomaliye neden olabilecek davranış kalıplarını analiz etmeyi içerir, örneğin olağan dışı hesap erişimi, hızlı bot aktivitesi, hesap keşfi, veri madenciliği ve robotik arama.

• Ses Analizi – Ses özelliklerini (örneğin, ses yolu özellikleri, fonetik varyasyonlar, konuşma tarzı) analiz ederek Pindrop, her birey için bir ses parmağı oluşturabilir. Ses parmak izinden herhangi bir sapma, bir uyarı tetikleyebilir.

• Çok Katmanlı Güvenlik Yaklaşımı – Bu, farklı tespit yöntemlerini birleştirmeyi içerir, bu da sonuçların çapraz doğrulanmasını sağlar ve tespit doğruluğunu artırır. Örneğin, ses parmak izi sonuçları, biyometrik analizle çapraz referans olarak doğrulanabilir.
• Sürekli Öğrenme ve Uyum – Pindrop, modellerini ve algoritmalarını sürekli günceller. Bu, yeni verilerin entegrasyonunu, tespit tekniklerinin rafine edilmesini ve ortaya çıkan tehditlere karşı öncü olmayı içerir. Sürekli öğrenme, tespit kabiliyetlerinin zaman içinde iyileşmesini ve sentetik ses saldırılarının yeni türlerine uyum sağlamasını sağlar.

Pulse Deepfake Garantisi nedir ve Pindrop’un deepfake tehditlerine karşı kabiliyetlerine olan müşteri güvenini nasıl artırır?

Pulse Deepfake Garantisi, çağrı merkezinde sentetik ses dolandırıcılığına karşı bir tür garanti sunan ilk garanti türüdür. Siber saldırı manzarasındaki büyük bir değişimin eşiğinde, potansiyel finansal kayıpların 2025 yılına kadar 10.5 trilyon dolara çıkması bekleniyor, Pulse Deepfake Garantisi, müşterilere birkaç önemli avantaj sunarak müşteri güvenini artırır:

• Geliştirilmiş Güven: Pulse Deepfake Garantisi, Pindrop’un ürünlerine ve teknolojisine güvenini gösteriyor, müşterilere hesap sahiplerini hizmet verirken güvenilir bir güvenlik çözümü sunuyor.
• Kayıp Tazminatı: Pindrop müşterileri, Pindrop Ürün Paketi tarafından tespit edilemeyen sentetik ses dolandırıcılığı olayları için tazminat alabilir.
• Sürekli İyileştirme: Garanti programı kapsamında alınan müşteri talepleri, Pindrop’un sentetik ses dolandırıcılığı taktiklerine karşı öncü olmasını sağlar.

Pindrop’un teknolojilerinin deepfake tehditlerini başarılı bir şekilde azalttığı önemli vaka çalışmaları var mı? Sonuçlar nelerdi?

Pikesville Lisesi Olayı: 16 Ocak 2024’te, Baltimore, Maryland’deki Pikesville Lisesi müdürünün konuştuğu iddia edilen bir ses kaydı Instagram’da ortaya çıktı. Ses, siyah öğrenciler ve öğretmenler hakkında küçümseyici yorumlar içeriyordu ve kamuoyunda büyük bir infial ve ciddi endişe yaratmıştı.

Bu gelişmelerin ışığında, Pindrop, gerçeği ortaya çıkarmak için kapsamlı bir soruşturma yürüttü, üç bağımsız analiz gerçekleştirdi. Ayrıntılı soruşturmanın sonuçları, sesin değiştirildiğini ancak kesin olarak AI tarafından üretilen sentetik konuşmanın belirtileri taşımadığını gösterdi. Analiz metriklerimize dayanarak %97’lik bir güvenle bu sonuca ulaştık. Bu önemli bulgu, manipüle edilmiş medyaların doğası hakkında kamuoyuna açıklama yapmadan önce ayrıntılı ve objektif analizlerin önemini vurguluyor.

Bir büyük ABD bankasında, Pindrop, bir dolandırıcının IVR’de kimlik doğrulamayı atlamak için sentetik ses kullandığını keşfetti. Dolandırıcının, hedeflenen hesaplara yönelik güvenlik sorularına doğru cevaplar vererek ve bir durumda dokonce bir kerelik parolaları (OTP) geçerek IVR kimlik doğrulamasını atlattığını tespit ettik. Bots, IVR’de başarılı bir şekilde kimlik doğrulaması yaptıktan sonra, hedeflenen hesapları belirlemek için temel bakiye sorguları yaptı. Bu hesaplara yapılan sonraki çağrılar, dolandırıcılığı gerçekleştirmek için gerçek bir insandan geldi. Pindrop, Pulse teknolojisi kullanarak bankaya bu dolandırıcılığı gerçek zamanlı olarak bildirdi ve dolandırıcıyı durdurmayı başardı.

Bir başka finansal kuruluşta, Pindrop, bazı dolandırıcıların bankaların otomatik yanıt sistemlerini taklit etmek için kendi ses botlarını eğittiğini keşfetti. İlk çağrıda, bir ses botu, hesap keşfi yapmak yerine, IVR’nin komutlarını tekrarlayarak çağrı merkezine çağrı yaptı. Bir hafta sonra, benzer çağrılar tekrar edildi, ancak bu kez bot, bankanın IVR’sinin sesini ve mannerizmlerini precisa olarak tekrarladı. Bir smishing saldırısının başlangıç noktası olarak bir ses botunu bankanın IVR’sini taklit etmek için eğittiğini düşünüyoruz. Pindrop Pulse’un yardımıyla, finansal kuruluş bu saldırıyı herhangi bir zarar vermeden önce engellendi.

Bağımsız NPR Ses Deepfake Deneyi: Dijital güvenlik, dolandırıcılar ve güvenlik teknolojisi sağlayıcıları arasında sürekli bir yarışdır. Pindrop gibi beberapa sağlayıcı, Pindrop, deepfake’leri tutarlı bir şekilde tespit etme iddiasında bulunmuştur – NPR, bu iddiaları test etti, mevcut teknoloji çözümlerinin AI tarafından üretilen ses deepfake’lerini tutarlı bir şekilde tespit edip edemeyeceğini değerlendirmek için.

Pindrop Pulse, 84 ses örneğinin 81’ini doğru bir şekilde tespit etti, bu da %96,4’lük bir doğruluk oranı anlamına geliyor. Ayrıca, Pindrop Pulse, tüm deepfake örneklerinin %100’ünü deepfake olarak tespit etti. Diğer sağlayıcılar da çalışmada değerlendirildi, ancak Pindrop, deepfake ve gerçek sesi güvenilir ve doğru bir şekilde tespit etme yeteneğini göstererek lider olarak ortaya çıktı.

Ses tabanlı dolandırıcılık ve güvenlik konusunda gelecekteki trendleri öngörüyor musunuz, özellikle yapay zeka teknolojilerinin hızlı gelişimiyle birlikte? Pindrop, bu trendlerle nasıl başa çıkıyor?

2024’te çağrı merkezi dolandırıcılığının devam edeceğini öngörüyoruz. Yıla göre analiz edilen dolandırıcılık oranlarına dayanarak, dolandırıcılık oranının %4-5 artışla her 730 çağrıda bir dolandırıcılık seviyesine ulaşacağını öngörüyoruz.

Dolandırıcılığın çoğu, bankacılık sektörünü etkileyecek. Sigorta, brokerlik ve diğer finansal segmentlerin mevcut seviyelerde kalması bekleniyor. Bu dolandırıcılık oranlarının, ABD’deki finansal kurumlar için 7 milyar dolarlık bir dolandırıcılık riskini temsil ettiğini tahmin ediyoruz ve bu riskin güvence altına alınması gerekiyor. Ancak, özellikle dolandırıcıların IVR’leri test alanı olarak kullandığı bir kayma bekliyoruz. Son zamanlarda, dolandırıcıların kişisel kimlik bilgileri (PII) girerek hesap detaylarını doğrulamak için manuel girişlerde artış gözlemledik.

Bunu mücadele etmek için, Pindrop’un mevcut çözümlerini ilerletmeye ve yeni ve yenilikçi araçlar gibi Pindrop Pulse’ı piyasaya sürmeye devam edeceğiz, bu da müşterilerimizi korumaya yardımcı olur.

Mevcut teknolojilerin ötesinde, ses dolandırıcılık önleme ve kimlik doğrulama için hangi yeni araçlar ve teknikler geliştiriliyor?

Ses dolandırıcılık önleme ve kimlik doğrulama teknikleri, teknoloji ve dolandırıcılık faaliyetlerindeki gelişmelere uyum sağlamak için sürekli olarak evrim geçiriyor. Bazı ortaya çıkan araçlar ve teknikler arasında:

• Sürekli Dolandırıcılık Tespiti ve Soruşturma: Bu, yeni bilgiler ortaya çıktıkça dolandırıcılık olaylarına geri bakış sunar. Bu yaklaşım, dolandırıcılık analistlerinin yeni dolandırıcılık sinyallerini “dinlemesine”, ilgili geçmiş çağrıları taramasına ve bu çağrıları yeniden puanlamasına olanak tanır.
• Akıllı Ses Analizi: Geleneksel ses biyometri sistemleri deepfake saldırılarına karşı savunmasızdır. Savunmalarını güçlendirmek için Ses Uyuşmazlığı ve Negatif Ses Eşleştirme gibi yeni teknolojiler gereklidir. Bu teknolojiler, birden fazla sesi tanıyarak, tekrar eden aramaları ve farklı seslerin tehdit oluşturabileceği durumları tespit ederek ek bir savunma katmanı sağlar.
• Erken Dolandırıcılık Tespiti: Çağrı başlangıcında hızlı ve güvenilir bir dolandırıcılık sinyali sağlayan dolandırıcılık tespit teknolojileri çok değerlidir. Canlılık tespitinin yanı sıra, taşıyıcı meta veri analizi, arama kimliği sahteciliği tespiti ve ses tabanlı sahtecilik tespiti gibi teknolojiler, konuşma başlangıcında savunmasız olduğumuz sırada dolandırıcılık saldırılarına karşı koruma sağlar.

Harika röportaj için teşekkür ederiz, daha fazla bilgi için lütfen Pindrop’un 2024 Ses Zekası ve Güvenlik Raporu‘nu okuyun veya Pindrop‘u ziyaret edin.