Yapay Zeka Gerçek İnsanları Bulmamıza Yardımcı Olabilir, Yerine Geçmez

Sahte bir görüntü en keskin gözleri bile yanıltabilir, ancak platformun gördüğü sahte davranış yanıltmamalıdır.  

Son yirmi yılda, çevrimiçi flört endüstrisi kullanıcı güvenliğini basit bir kontrol listesi olarak öğretti. Kullanıcılara fotoğrafı incelemelerini, kişinin hikayesinin tutarlılığını kontrol etmelerini veya buluşmayı kabul etmeden önce bir video görüşmesi talep etmelerini önerdik. Bu rehber, bir zamanlar dijital güvenliğin altın standardı iken, bugün tamamen geçerliliğini yitirmiştir.Kesin kanıt şöyle geldi: iProov tarafından yapılan Şubat 2025 çalışması, önde gelen bir biyometri satıcısı. Araştırmacılar Birleşik Krallık ve ABD’de 2.000 deneğe çeşitli öğeleri — hem görüntüleri hem de videoları kullanarak — gerçek ya da sentetik olarak etiketlemelerini istedi. Sonuçlar şaşırtıcıydı: sadece iki denek hiç hata yapmadı. Bu, test edilen kişilerin yalnızca %0,1’i demektir, yani diğer 1.998 en az bir hata yaptı. Yüksek güven ile yüksek hata oranının birleşimi tüketiciler için tehlikeli bir karışımdır. Ve dolandırıcılar bunu suistimal etmeye fazlasıyla hazır.Göre Entrust 2026 Kimlik Dolandırıcılığı Raporu, deepfake’ler artık biyometrik dolandırıcılık girişimlerinin beşte birini oluşturuyor. Deepfake selfie’ler 2025’te %58 arttı ve enjeksiyon saldırıları yıllık %40 artış gösterdi. Günlük bir kullanıcının görsel algılamada son derece gelişmiş bir üretken AI modelini yenmesini beklemek sorumluluktan kaçınmadır; riski doğrudan platformdan müşteriye aktarır.

Dolandırıcılık Artık Sahte Resim Bulmakla İlgili Değil

Gerçek şu ki, mevcut tespit araçları başarısız oluyor çünkü nesne seviyesinde testleri tek tek yürütüyor. Bir test belirli bir görüntünün AI tarafından üretilip üretilmediğini sorar. Diğeri bir belgenin sahte olup olmadığını sorarken, üçüncüsü bir mesajdaki metnin makine tarafından yazılıp yazılmadığını sorar. Sorun, bu testlerin her birinin hızla etkisini yitirmesidir. Üretken model ilerledikçe çıktı kalitesi sürekli artar ve önceki yanıtlar ve tespit yöntemleri neredeyse bir gecede eski ya da geçersiz hale gelir.

Daha iyi bir yaklaşım, tek sinyal görünümünü birçok sinyalin ortak uyumuyla değiştirir. Yöntemimiz, bir kullanıcının varlığının çeşitli boyutları arasındaki ilişkileri puanlar. Bir sinyal boyutu, cihazın sistemimizde nasıl göründüğüdür. Diğeri, kullanıcının oturumunun nereden geldiğidir. Üçüncüsü, hesabın gerçekte nasıl davrandığıdır. Sistem olası dolandırıcılık göstergelerini işaretlediğinde, tüm bunlar insan incelemesine yol açar.

Birleşmiş Milletler Uyuşturucu ve Suç Ofisi, kendi Sınırötesi Organize Suç Tehdit Değerlendirmesi 2026 Güneydoğu Asya için, 2025 çevrimiçi dolandırıcılık kayıplarını yalnızca rapor edilen bölgelerde 88,3 milyar ABD Doları ile 114,1 milyar ABD Doları arasında tahmin etti. Bu ölçekteki sanayi dolandırıcılığı hız ve hacim üzerine kuruludur. Herhangi tek bir bilgi kolayca taklit edilebilir, ancak taklit etmek tüm hepsini tutarlı bir şekilde — platform tarafından sürekli olarak devre dışı bırakılan birden çok hesapta — sürdürmek için çok fazla yük haline gelir. Eklediğimiz her sürtünme katmanı, dolandırıcılık işinin hesap başına maliyetini artırır ve kar marjı sıfıra ulaşana kadar.

İşte yapay zekanın gerçekten değer kazandığı nokta budur. Sahtecilik tespiti yeni teknolojilerle gelişirken, dolandırıcılığı gösteren eşzamanlı faktörleri tanıma yeteneğinin artması — ve daha erken müdahaleye yol açması — kullanıcılarımız için çok daha iyidir. Bir kullanıcının göstergeleri çeliştiğinde, gerçek niyeti ortaya çıkar. Dürüst bir üye, bir dolandırıcı ve başka bir amaçla gelen bir ziyaretçi aynı fotoğrafları ve neredeyse aynı açılış satırlarını paylaşabilir. Ancak birleşik göstergeleri farklı olacaktır ve tamamen farklı bir hikaye anlatır. İnsanların yanıt şekli, ne kadar hızlı yanıt verdikleri, konuşmayı nasıl yükselttikleri, ne hakkında soru sordukları ve hangi sohbetlerin terk edildiği tümü bir tablo çizer. Kimlik kusursuz bir şekilde üretilmiş bir yalan olabilir, ancak davranış her zaman kötü niyetleri ortaya çıkarır.

Bilgi Asimetrisi: Platformlar Kullanıcıların Bilmediği Şeyleri Biliyor

Federal Ticaret Komisyonu 2026’da rapor etti ki 2025’teki romantik dolandırıcılık kayıpları yüzde 22 arttı 2024 üzerine, yaklaşık 1,5 milyar dolar seviyesine ulaştı. Nasıl iletişime geçildiklerini belirtenler arasında, yaklaşık yüzde 60’ı söyledi ilk temaslarının bir sosyal medya platformu üzerinden gerçekleştiğini belirtti.

Endüstrimizde büyük bir bilgi boşluğu var. Platformlar aynı sinyal kategorilerini görüyor, ancak örneğin oturum açma ülkesini ve hesap yaşını da büyük ihtimalle görebiliyor. Tüm üyelerin gördüğü sadece bir gülümseme ve profillerinden bir şeyler ustaca karıştıran özenle hazırlanmış bir paragraftır. Platformların bu gizli verileri kullanarak daha güvenli bir ortam yaratma ya da üyelerin buna göre hareket etmesi için açıklama gücü var. Ne yazık ki, sektörün çoğu ne birini ne de diğerini yapıyor.

Sektörün hareketsizliği genellikle kullanıcı gizliliğiyle ilgili karmaşık ödünleşmelerle ilgilidir. Bu denklemin maliyetli yarısı eyleme geçmektir. Güveni tesis etmenin iki yolu vardır: yavaş yol itibar, hızlı yol ise doğrulamadır. Doğrulama sürtünme yaratır. Endüstri büyük ölçüde hız, hacim ve düşük sürtünme ister, bu da kronik doğrulama eksikliğini açıklar.

Ancak çözümler ortaya çıkıyor. Ağustos 2024’te arXiv’de yayımlanan bir ön baskı, “personhood credentials” önerdi. OpenAI, Microsoft, MIT, Oxford ve Harvard gibi kurumların 32 yazarı, bir hizmete gerçek bir kişi olduklarını kimliklerini ortaya çıkarmadan kanıtlamalarını sağlayan gizlilik korumalı bir kimlik bilgisi önerdi. Argümanları, CAPTCHA’ların yetersiz olduğu ve anomali tespitinin yetenekli AI’lara karşı hızla etkisizleştiği yönünde. Haklılar. Flört, bu erozyonun sonuçlarının en sert hissedildiği yerlerden biri çünkü satılan temel ürün güven kendisidir.

Daha İyi Bir Topluluk Standardı Oluşturmak

Aynı sinyaller, olası suç davranışlarını tanımlamaya yardımcı olurken, diğer kötü eylem türlerini de tanımlayabilir. Niyet okuma, sadece dolandırıcılığı önlemenin çok ötesine uzanır. Bir web sitesindeki her kötü aktör suçlu değildir. Hoş olmayan bir kullanıcı kanunu çiğnemiyor olabilir ve bir ilişki işlem gibi ele alınıyorsa bu mutlaka dolandırıcılık değildir. İnsanlara küçümseyici davranmak federal bir suçlamaya yol açmaz. Ancak bu davranışlar topluluğu derinlemesine bozar. Daha da kötüsü, bu davranışlar çoğu zaman tamamen üye raporlarına dayanan uygulama programları için görünmez olur.

Sektör geleneksel olarak yasa dışılıkla sınırlama çizmiştir: dolandırıcılık ve reşit olmayanları tarar, yasaların kesin olarak gerektirdiği şeyleri kaldırır ve geri kalanını rızaya dayalı yetişkinler arasındaki bir mesele olarak görür. AI kullanarak işlemci davranışı tanımlayan ve aktif olarak durduran başka bir flört sitesi bilmiyorum. Stop@Send özelliğimiz, gönderinin gönderilirken içeriğini değerlendirir. Statik bir anahtar kelime listesiyle karşılaştırmak yerine daha derin bir anlam arar. Çoğu zaman yanıt, gönderene mesajın topluluk için neden uygun olmadığını tam olarak açıklayan bir bildirim olur.

Elbette bu ücretsiz değildir. Üye sohbetlerini kesmek sürtünme yaratır ve bu, şaşırtıcı olmayan bir şekilde, aktif olarak üstlenmeyi seçtiğimiz bir maliyettir. Ancak standartlarımız, platformumuzda gerçekte izin verilen davranışa göre belirlenir, uygulanmayan bir topluluk kuralları sayfasında yayınlananlara göre değil. Kötü bir aktörü rahatsız etmeyecek bir platformun kendisini topluluk olarak adlandırma hakkı yoktur.

Sektöre Yönelik Zorluk

Piyasa şu anda AI’nın insanları yerini alması için yarışıyor: AI arkadaşları, AI‑tarafından oluşturulan profiller ve flört ajanları yükseliyor. Bu yönün bir çıkmaz olduğunu kesinlikle düşünüyorum. Tamamen etkileşime odaklanıyor ama başka hiçbir şey sunmuyor. Bizim yaklaşımımız temelde farklı. AI’yı kötü aktörleri ortadan kaldırmak, üyeleri birbirlerine karşı sorumlu tutmak ve birbirlerine daha anlamlı, gerçek dünya ilişkilerine yol açabilecek şekillerde davranmalarını sağlamak için kullanıyoruz.

Kaçınılması gereken kırmızı bayrak listeleri değerini yitirdi. Dolandırıcıları ortaya çıkaran sinyaller, üretken modellerin ortadan kaldırmayı öğrendiği tam özellikler haline geldi ve bu da bizi sürekli bir silahlanma yarışına sokuyor. İlk Kural — tanımadığınız ve şahsen tanışmadığınız kişiye asla para göndermeyin — herkesin uyması gereken bir kuraldır; bundan sonra kilit soru artık fotoğrafla ilgili değil. Platform ve kullanıcıların bilmediği şeyleri ne yaptığıdır.

Bu zorluğa iyi yanıt veren bir platform, güven için aktif olarak mühendislik yapmaktadır. Yanıt vermeyen bir platform ise üyelerinden %0,1 başarı oranıyla daha fazla çaba harcamalarını ister, sadece kendilerini korumak için.

Bu zorluğu kendi platformum da dahil olmak üzere her platforma yöneltiyorum. Cevapların dürüst ve eksiksiz olmasını bekliyorum. Bu boşluğu kapatacak teknoloji şu anda mevcut. Dolandırıcılık devam ediyor çünkü onu durdurmak, zahmetsiz kayıt kapısının getirdiği muazzam büyümeyi feda etmek anlamına geliyor. Bu, teknik bir sınırlıktan ziyade bir iş kararıdır. Ve doğru karar veren platformlar, bu tartışma için tek önemli varlığı — üyelerinin güvenini — elinde tutar.