Şunu hayal edin: Tight bir deadline için çalışırken, annenizin telefon numarasından gelen bir arama alırsınız. Diğer ucundaki ses, anneninkine benzeyen, sakin ve sevgi dolu, ancak alışık olduğunuzdan daha acil bir tonla konuşuyor. Paris’te tatil yaparken ciddi bir sorunla karşılaştığını ve hemen parasal yardımınıza ihtiyacını olduğunu söylüyor. Annenizin Paris’te olduğunu ve verdiği detayların, otelinin adını da dahil ederek, aramayı daha da inandırıcı hale getirdiğini biliyorsunuz. İkincisi düşünmeden parayı transfer edersiniz, ancak daha sonra annenizin asla bu aramayı yapmadığını, bunun gelişmiş bir AI sisteminin sesini mükemmel bir şekilde taklit ettiği ve ayrıntılı bir senaryo uydurduğu ortaya çıkar. Bu gerçekleştiğinde ürperti duyarsınız.

Bu senaryo, bir zamanlar saf bilim kurgu olan, artık ortaya çıkan bir gerçeklik. Büyük dil modelleri (LLM’ler) gibi AI teknolojilerinin doğuşu, inanılmaz ilerlemeler getirdi. Ancak, bir tehdit ortaya çıkıyor: AI güçlü sahtekarlıklar. AI tarafından güçlendirilmiş sofistike sahtekarlıkların potansiyeli, teknolojik ilerlemenin ufuklarında yeni bir tehdit olarak ortaya çıkıyor. Telefon sahtekarlıkları, telefonun icadıyla birlikte bir endişe kaynağı olmuşsa da, büyük dil modellerinin (LLM’lerin) her dijital iletişim yönüne geniş entegrasyonu, bahisleri dramatik bir şekilde yükseltti. AI’nin potansiyelini benimserken, aynı zamanda bu giderek daha sofistike tehditlere karşı savunmalarımızı güçlendirmek de önemlidir.

Telefon Sahtekarlıklarının Mevcut Durumu

Suçlular, yıllardır, insanları para transferine veya hassas bilgi vermeye ikna etmeye çalıştılar, ancak bu sahtekarlıkların çoğu, insan operatörlerin kullandığı senaryolara dayanmakla sınırlı kaldı. Ancak bu sınırlamaya rağmen, telefon sahtekarlıkları, hala karlı bir suç girişimi olarak devam ediyor.

Amerika Federal Ticaret Komisyonu’na göre, 2022 yılında alone Amerikalılar, sahtekarlıklara karşı 8.8 milyar dolar kaybetti ve bu kaybın önemli bir kısmı telefon sahtekarlıklarına atfedildi. Bu, mevcut, daha az gelişmiş haliyle bile, birçok taktiğin hala savunmasız bireylerde işe yaradığını gösteriyor. Peki, ne olacak khi bunlar gelişirler?

AI Güçlü Sahtekarlıkların Geleceği

Telefon sahtekarlıklarının manzarası, birkaç ana teknolojinin ortaya çıkmasıyla dramatik bir şekilde değişmek üzere:

Büyük Dil Modelleri (LLM’ler)

Bu AI sistemleri, insan benzeri metin oluşturabilir ve doğal konuşmalara katılabilir. Sahtekarlık için uygulandığında, LLM’ler, çok inandırıcı ve uyarlanabilir senaryolar oluşturabilir, bu da potansiyel kurbanların sahtekarlığı tanımlamasını çok daha zor hale getirir.

Çekirdek Güçlendirilmiş Oluşturma (RAG)

Bu teknoloji, LLM sistemlerinin, büyük miktarda bilgiye gerçek zamanlı olarak erişmesine ve kullanmasına olanak tanır. Sahtekarlar, bir kişinin kamuoyunda bulunan bilgilerine dayanarak bir profil oluşturabilir. Ayrıca, sosyal mühendislik tekniklerini, arkadaşları ve aile üyeleriyle birlikte kullanarak daha derin bilgi toplamak için kullanabilirler. Bu, hedefin kimliği, iş bilgisi veya son faaliyetleri gibi bilgilere erişim sağlayacaktır. Ardından, RAG’yi kullanarak LLM’lere, yaklaşımlarının çok kişiselleştirilmiş ve meşru görünmesi için gerekli bağlamı sağlayabilirler.

Sentetik Ses Oluşturma

Resemble AI ve Lyrebird gibi platformlar, yüksek derecede gerçekçi AI tarafından oluşturulan sesler üretmekte liderlik ediyor. Bu teknolojiler, sanal asistanlardan, otomatik müşteri hizmetlerine ve içerik oluşturmaya kadar çeşitli uygulamalarda kullanılabilen, kişiselleştirilmiş, insan benzeri sesler üretebiliyor. ElevenLabs gibi şirketler, kullanıcıların kendi seslerini yakından taklit edebilecek sentetik sesler oluşturmasına olanak tanıyan sınırları daha da ileriye taşıyor, böylece dijital etkileşimlerde yeni bir kişiselleştirme ve katılım düzeyi sağlanıyor.

Sentetik Video Oluşturma

Synthesia gibi şirketler, AI tarafından oluşturulan avatarlar kullanarak gerçekçi video içeriği oluşturmanın potansiyelini zaten gösteriyor. Yakın gelecekte, bu teknoloji, sahtekarların arkadaşları veya aile üyelerini taklit etmelerine veya tamamen uydurma人物lar için video görüşmeleri yapmalarına olanak tanıyarak, sahtekarlığa fiziksel gerçeklikte previously imkansız bir düzeyde fiziksel gerçeklik katacaktır.

AI Dudak Senkronizasyonu

Sync Labs gibi şirketler, oluşturulan sesi video kayıtlarıyla eşleştirebilen gelişmiş dudak senkronizasyonu teknolojileri geliştiriyor. Bu, tarihsel figürler, politikacılar, ünlüler ve neredeyse herkes için çok inandırıcı deepfake videolar oluşturmak için kullanılabilir, gerçeklik ve aldatma arasındaki çizgiyi daha da bulanıklaştırır.

Bu teknolojilerin birleşimi, oldukça endişe verici bir tablo çiziyor. Gerçek zamanlı olarak sohbeti uyarlayabilen, hedef hakkında kişisel bilgilerle donanmış ve hatta video görüşmesine geçerek gerçekten gerçek bir kişinin sesini ve görüntüsünü taklit edebilen bir sahtekarlık araması hayal edin. Aldatma potansiyeli gerçekten muazzam.

Gelişmiş Güvenlik Önlemlerine İhtiyaç

Bu AI güçlü sahtekarlıklar daha sofistike hale geldikçe, kimlik ve gerçeklik doğrulama yöntemleri, AI ilerlemeleriyle yarışmak zorunda kalacak. Hem düzenleyici hem de teknolojik ilerlemeler, online dünyayı güvenli tutmak için gerekli olacak.

Düzenleyici İyileştirmeler

Daha sıkı veri gizliliği yasaları: Daha katı veri gizliliği yasaları, sahtekarların istismar edebileceği kişisel bilgi miktarını sınırlayacaktır. Bu yasalar, daha katı veri toplama gereksinimleri, geliştirilmiş kullanıcı onay protokolleri ve veri ihlalleri için daha ağır cezalar içerebilir.

En Güçlü AI Modelleri için Özel Bulut: Düzenlemeler, en güçlü AI modellerinin, açıkça erişilebilecek yerine, özel, güvenli bulut altyapısında barındırılmasını zorunlu kılabilir. Bu, en gelişmiş teknolojilere erişimi sınırlayarak, kötü niyetli aktörlerin bunları sahtekarlık için kullanmasını daha zor hale getirecektir. (örneğin: https://security.apple.com/blog/private-cloud-compute/)

AI Düzenlemeleri için Uluslararası İşbirliği: AI teknolojisinin küresel doğası dikkate alındığında, düzenleyici standartlar için uluslararası işbirliği faydalı olabilir. Uluslararası AI düzenlemeleri oluşturmak ve uygulamakla sorumlu bir küresel organ kurulması, sınır ötesi AI ile ilgili suçlarla mücadele etmeye yardımcı olabilir.

Halkın Farkındalığını Artırma Kampanyaları: Hükümetler ve düzenleyici kurumlar, AI sahtekarlıklarının potansiyel riskleri hakkında vatandaşları eğitmek için halkın farkındalığını artırma kampanyalarına yatırım yapmalıdır. Farkındalık, bireyleri ve organizasyonları gerekli güvenlik önlemlerini uygulamaya geçirmek için güçlendirmenin ilk adımdır.

Mevcut AI düzenlemeleri, sahtekarlıkları önlemek için yetersizdir ve düzenlemenin geleceği, birçok güçlü teknolojinin açık kaynaklı doğası tarafından karmaşıklık kazanır. Bu açık kaynaklı doğa, herkesin bu teknolojilere erişmesine ve kendi amaçları için değiştirmesine olanak tanır. Bu nedenle, daha güçlü düzenlemelerin yanı sıra güvenlik teknolojilerinde de ilerleme必要.

Sentetik Veri Tespiti

Sentetik ses tespiti: Sahtekarlar AI kullanırken, savunma sistemlerimizin de AI kullanması gerekir. Pindrop gibi şirketler, gerçek zamanlı olarak telefon görüşmelerinde sentetik sesi tespit edebilen AI güçlü sistemler geliştiriyor. Teknolojileri, bir aramanın sesini analiz ederek, sesin gerçek bir kişiden mi yoksa gelişmiş bir AI sisteminden mi geldiğini belirleyebiliyor.
Sentetik video tespiti: AI, videoyu da manipüle edebiliyor ve bu, deepfake’ler ve diğer sentetik video içerikleri yoluyla önemli tehditler oluşturuyor. Deepware gibi şirketler, sentetik video tespit teknolojileri geliştiriyor. Deepware’ın platformu, video verisindeki küçük tutarsızlıkları analiz ederek, sentetik içerikte thường bulunan doğal olmayan hareketler, düzensiz aydınlatma ve piksel anormalliklerini tespit edebiliyor. Bu farklılıkları tanımlayarak, Deepware’ın teknolojisi, bir videonun gerçek mi yoksa manipüle edilmiş mi olduğunu belirleyebilir, böylece bireyleri ve organizasyonları sofistike video tabanlı sahtekarlıklardan ve yanlış bilgi kampanyalarından korumaya yardımcı olabilir.

Kimlik Doğrulama İyileştirmeleri

Kimlik doğrulama yöntemleri geliştirilmekte olup, bunlardan biri veya daha fazlası, interneti daha güvenli hale getirmek için önümüzdeki yıllarda yaygınlaşacaktır.

Uzaktan Konuşmalar için İki Adımlı Kimlik Doğrulama: İki faktörlü kimlik doğrulama (2FA), güvenli iletişimin temel bir bileşeni olmaya devam ediyor. Bu yöntemde, her telefon görüşmesi veya e-posta, benzersiz bir doğrulama kodu içeren bir metin mesajı tetikleyecektir, tıpkı hiện e-posta kayıt işlemlerinde olduğu gibi. 2FA, temel kimlik doğrulama için etkili olsa da, her bağlamda güvenilmesi için yeterli değildir, bu nedenle daha gelişmiş yöntemlerin geliştirilmesi, kapsamlı internet güvenliği için gerekli olacaktır.

Davranış Tabanlı Çok Faktörlü Kimlik Doğrulama: Sadece bir görüşmenin başında kimliği doğrulamakla kalmaz, gelecekteki güvenlik sistemleri, bir etkileşim boyunca sürekli olarak davranışı analiz edebilir. BioCatch gibi şirketler, kullanıcıların cihazlarıyla nasıl etkileşimde bulunduklarına dayanarak kullanıcı profilleri oluşturan davranışsal biyometri kullanıyor. Bu teknoloji, bir sahtekarın çalıntı bilgilerini kullandığını gösteren davranıştaki anormallikleri tespit edebilir, hatta ilk kimlik doğrulama kontrollerini geçerse bile.

Biometrik Tabanlı Kimlik Doğrulama: Onfido gibi şirketler, AI güçlü kimlik doğrulama araçları sunarak, gelişmiş deepfake’leri ve diğer kimlik sahtekarlığı türlerini tespit edebiliyor. Sistemleri, belge doğrulama ve biyometrik analiz birleştirerek, görüşme veya video sohbetinin diğer ucundaki kişinin gerçekten iddia ettiği kişi olup olmadığını garantiliyor.

Gelişmiş Bilgi Tabanlı Kimlik Doğrulama: Gelecekteki kimlik doğrulama sistemleri, bir kullanıcının dijital ayak izi ve son faaliyetlerine dayalı olarak dinamik, AI tarafından oluşturulan soruları içerebilir. Örneğin, Prove gibi bir şirket, telefon merkezli kimlik doğrulama çözümleri geliştiriyor ve telefon zekası ile davranışsal analizi birleştirerek, bir kişinin kimliğini doğrulamak için benzersiz bir “kimlik imzası” oluşturabiliyor. Bu teknoloji, bir kişinin cihazını nasıl kullandığına dayanarak bir profil oluşturabiliyor, bu da sahtekarların taklit etmesini çok daha zor hale getiriyor.

Blockchain Tabanlı Kimlik Doğrulama: Blockchain teknolojisi, merkezi olmayan ve değiştirilemeyen bir kimlik doğrulama yöntemi sunuyor. Civic gibi şirketler, kullanıcıların kişisel bilgilerini kontrol etmelerine ve aynı zamanda güvenli kimlik doğrulama sağlamalarına olanak tanıyan blockchain tabanlı kimlik doğrulama sistemleri geliştiriyor. Bu sistemler, bir kişinin kimliğinin doğrulanabilir, değiştirilemez bir kaydını oluşturuyor, yüksek riskli işlemleri yönetmek için idealdir.

Sonuç

LLM’ler, RAG, sentetik ses oluşturma, sentetik video oluşturma ve dudak senkronizasyonu teknolojilerinin birleşmesi, bir anlamda çift taraflı bir kılıç. Bu ilerlemeler, olumlu uygulamalar için büyük potansiyel taşıyor, ancak sahtekarların elinde önemli riskler oluşturuyor.

Bu güvenlik uzmanları ile siber suçlular arasındaki sürekli yarış, dijital güvenlik alanındaki sürekli yenilik ve uyanıklılık ihtiyacını vurguluyor. Bu güçlü araçların faydalarını mentre zararlarını en aza indirgemek için, bu riskleri tanımak ve hazırlanmak zorundayız.

Kapsamlı düzenleme, bu yeni sahtekarlık türleri hakkında eğitim, güvenlik önlemlerine yatırım ve her şeyden önce, internet veya telefon üzerinden bilinmeyen kişilerle etkileşime girdiğimizde her birimizden sağlıklı bir şüphe duyulması, bu yeni manzara içinde yol almamız için gereklidir.