Güzellik Filtreleri Potansiyel Derin Sahtekarlık Saldırı Araçları

Güzellik filtreleri artık only lekeleri gizlemekle kalmıyor: derin sahtekarlıkları ve yüz morfolojilerini tespit sistemlerinden kaçırmalarına yardımcı olabilir. Yeni bir çalışmada, thậmi sürtünme efektlerinin AI dedektörlerini şaşırtabileceği ve sahte görüntülerin gerçek gibi görünmesini ve gerçek olanların sahte gibi görünmesini sağlayabileceği gösterildi. Bu eğilim devam ederse, güzellik filtreleri, sınır kontrolünden corporate Zoom görüşmelerine kadar yüksek riskli ortamlarda kısıtlamalara tabi tutulabilir.

2024 yılında İspanya ve İtalya arasındaki akademik bir işbirliği kapsamında, araştırmacılar 18-30 yaş arasındaki kadınların %90’ının sosyal medyada resim paylaşımlarından önce güzellik filtreleri kullandığını bildirdi. Bu sentido, güzellik filtreleri yüz görünümünü orijinal kaynak üzerinde değiştirmek için algoritmik veya AI destekli yöntemlerdir:

2024 çalışmasından: güzellik filtresi uygulanmadan önce ve sonra kadın (solda) ve erkek (sağda) yüzleri. Filtre, cilt tonu, gözler, burun, dudaklar, çene ve elmacık kemikleri gibi özellikleri değiştirerek algılanan çekiciliği artırdı. Kaynak: https://arxiv.org/pdf/2407.11981

Bu filtreler ayrıca Snapchat ve Zoom gibi popüler video tabanlı sistemlerde yerel veya eklenti olarak geniş olarak mevcuttur ve “mükemmel olmayan” cilt pürüzsüzleştirmesi ve hatta konunun yaşını değiştirme yeteneği sunar, kimlik önemli ölçüde değiştirilebilecek noktaya kadar:

Çalma: üç kadın video ‘güzellik’ filtrelerini kapatıyor, algoritmalar veya AI tarafından değiştirilen fizyonomilerinin kapsamını gösteriyor. Kaynak: https://www.youtube.com/watch?v=gtCpea_5qxw

Bu olgu, teknoloji göreceli olarak olgunlaştığında doygunluk noktasına ulaştı; 2020 yılında çalışma City University of London tarafından yapılan bir çalışmada, ABD, Fransa ve İngiltere’deki genç Snapchat kullanıcılarının %90’ının uygulamalarında filtre kullandığı, Meta’nın ise Facebook veya Instagram’da filtre kullanan 600 milyondan fazla gencin olduğunu ortaya koydu.

Bu filtrelerin mental sağlık üzerindeki olumsuz etkilerini araştırırken, Psychology Today raporu çalışılan genç kadınların %90’ının, ortalama yaşı 20 olan, ya filtre kullandığını ya da fotoğraflarını bazı şekilde düzenlediğini belirtti. En popüler filtreler, cilt tonlarını eşitlemek, bronz bir görünüm vermek, dişleri beyazlatmak ve vücut boyutunu azaltmak için kullanılan filtrelerdi.

Yüzleşmek

Yüz filtreleri, 2025 yılında devrim ile video sentezinden yararlanacak ve daha genel olarak bu araştırma alanındaki devam eden ilgi ile, canlı video sohbetlerinde kendimizi “yeniden yaratma” veya yeniden hayal etme yeteneğimiz, güvenlik topluluğunun sahte veya suçlu derin sahtekarlık video teknikleri hakkında endişeleri ile giderek daha fazla sürtüşmeye neden oluyor.

Bir sorun, son yıllarda geliştirilen ve video deepfaker’ı ortaya çıkarmak için kullanılan “kolay” testlerin, büyük miktarda para aldatmak için kullanılan bir corporate bağlamında giderek daha az etkili hale geldiğidir:

Çalma: üç veya dört yıl önce, elini yüzün önünde sallamak video görüşmelerinde güvenilir bir testti, ancak TikTok gibi platformların klasik “ipuçlarını” nasıl değiştirdiğini görebiliyoruz. Kaynaklar: Aynı yukarıdaki ve https://archive.is/mofRV#wavehands

Daha kritik olarak, yüz değiştirme/değiştiren güzellik filtrelerinin yaygın kullanımı, boardroom video sohbetlerine girmeye çalışan sahtekarları ve “kaçırmak” ve “sahtekarlık” dolandırıcılığı kurbanlarına karşı savunmasız olan yeni ve ortaya çıkan bir derin sahtekarlık dedektörü neslini görevden alabilir.

Bir deepfakin inandırıcı olması, fotoğraf veya video olsun, daha kolaydır, eğer görüntünün çözünürlüğü düşük veya görüntü bazı şekilde bozulmuşsa, çünkü temel sahtekarlık sistemi kendi eksikliklerini bağlantı veya platform sorunları gibi göstererek gizleyebilir.

Aslında, en popüler güzellik filtreleri, derin sahtekarlık dedektörlerinin yararlandığı en yararlı materyalleri, cilt dokusu ve diğer yüz detayları gibi, kaldırır veya bozar – ve değerlendirmeye alınması gereken bir şey, daha yaşlı bir yüzün daha fazla ayrıntı içereceğidir ve bu nedenle güzellik filtrelerinin kullanılması özellikle bu durumda bir çekicilik olabilir.

Eğer bir ayrıntı-free ‘android’-style görünüm modadır, derin sahtekarlık dedektörleri gerçek ve sahte görüntüler ve video kişilikleri arasında ayrım yapmaları için gereken materyali bulamayabilir. Kaynak: https://www.instagram.com/reel/DMyGerPtTPF/?hl=en

Royal Society’nin 2024 sonlarında makalesi Güzellik masih iyidir: güzellik filtreleri döneminde çekicilik halesi çalışmasında, filtrelerin her iki cinsiyet için genel çekiciliği evrenselleştirdiğini (ancak artan çekicilik, güzellik filtreli kadınların genel zekâsını düşürme eğilimindedir) onayladı.

Dolayısıyla, bu bir popüler teknolojidir; çalışır; ve güvenlik sınırlamalarına tabi tutulması veya çeşitli bağlamlarda yasaklanması bir kültür şokuna neden olabilir.

Bununla birlikte, video deepfaker’ların gerçek video katılımcılarından ayırt edilemeyecek hale gelme tehdidi altında olduğumuz bir dönemde, güzellik filtrelerinin küresel “gürültüsünün” gelecekte güvenlik nedenleriyle azaltılması gerekebilir.

Pürüzsüz Suçlular

Sorun, İtalya’daki Cagliari Üniversitesi’nden yeni bir çalışmada en son olarak araştırıldı, başlığı Aldatıcı Güzellik: Güzellik Filtrelerinin Derin Sahtekarlık ve Morfolojik Saldırı Tespit Etkisi.

Çalışmada, araştırmacılar iki benchmark veri kümesinden yüzleri güzellik filtreleri ile uyguladı ve birkaç derin sahtekarlık ve morfolojik saldırı dedektörünü orijinal ve değiştirilmiş görüntülerde test etti.

Her durumda, dedektörlerin doğruluğu güzelleştirme yoğunluğu arttıkça düştü; en dramatik düşüşler, filtreler kırışıklıkları pürüzsüzleştirdiğinde, cilt tonunu açtı veya yüz özelliklerini ince bir şekilde değiştirdiğinde meydana geldi. Bu değişiklikler, dedektör modellerinin güvendiği ipuçlarını kaldırdı veya bozdu.

Örneğin, MorphDB’de en iyi performans gösteren model, filtreleme sonrasında %9’dan fazla doğruluk kaybetti ve sorun, birden fazla dedektör mimarisi boyunca devam etti, bu da mevcut sistemlerin kozmetik iyileştirmelere karşı dayanıklı olmadığını gösterdi.

Yazarlar şöyle diyor:

‘Güzellik filtreleri, biyometrik kimlik doğrulama ve adli analiz sistemlerinin bütünlüğüne tehdit oluşturuyor ve böyle koşullarda derin sahtekarlık ve morfolojik saldırı dedektörlerinin geliştirilmesini kritik bir açık zorluk haline getiriyor.

‘Gelecek çalışmalar, gerçek dünya değişikliklerine karşı dayanıklı dijital manipülasyon tespit sistemlerinin geliştirilmesini önceliklendirmelidir, bu sistemler, kötü niyetli olsun veya olmasın, günlük ve güvenlik açısından kritik bağlamlarda güvenilir kimlik tanıma ve içerik doğrulamasını sağlamak için.

Yöntem ve Veri

Derin sahtekarlık ve morfolojik saldırı tespitini güzellik filtrelerinin nasıl etkilediğini değerlendirmek için, araştırmacılar bir ilerleyici pürüzsüzleştirme filtresi uyguladı ve sonuçları iki benchmark convolutional neural networks (CNNs) üzerinde test etti: AlexNet ve VGG19.

Her iki benchmark veri kümesi de, uygulanan yüz manipülasyonlarının örneklerini içeriyordu. İlk veri kümesi CelebDF idi, gelişmiş yüz değiştirme teknikleri ile oluşturulan 590 gerçek ve 5.639 sahte video kliplerini içeren bir büyük ölçekli video benchmark’u. Toplama, 59 kişi arasında çeşitli aydınlatma koşulları, baş pozisyonları ve doğal ifadeleri sunar, böylece gerçek dünya medya senaryolarında derin sahtekarlık dedektörlerinin dayanıklılığını değerlendirmek için uygun hale gelir:

CelebDF’den etkilenen yüz örnekleri. Kaynak: https://github.com/yuezunli/celeb-deepfakeforensics

İkinci veri kümesi AMSL (kayıt gerektirir) idi, Face Research Lab London koleksiyonundan oluşturulan bir morfolojik saldırı veri kümesiydi. Veri kümesi, 102 konudan nötr ve gülümseyen ifadeleri içerir ve biyometrik kimlik doğrulama sistemlerinin karşılaştığı gerçekçi zorlukları yansıtmak için yapılandırılmıştır.

AMSL’de kullanılan Face Research Lab London seti (FRLL) veri kümesinden görüntüler. Kaynak: https://figshare.com/articles/dataset/Face_Research_Lab_London_Set/5047666?file=8541955

Her iki ağ da, derin sahtekarlık veya morfolojik saldırı veri kümesinin %80’inde eğitim görürken, kalan %20’si doğrulama için kullanıldı. Güzellik filtrelerinin dayanıklılığını test etmek için, araştırmacılar daha sonra test görüntülerine bir ilerleyici pürüzsüzleştirme filtresi uyguladı, yüz yüksekliğinin %3’ünden %5’ine kadar bulanık yarıçapını artırarak:

CelebDF (üst) ve AMSL (alt) veri kümelerinden yüz örnekleri, güzellik filtresi uygulanmadan önce ve sonra. Filtre yarıçapı, yüz yüksekliğine göre ölçeklendirildi, c = %3 ve c = %5 daha güçlü etkiler üretti.

Metrikler açısından, her model Equal Error Rate (EER) kullanarak orijinal ve güzelleştirilmiş test örneklerinde değerlendirildi. Analiz ayrıca, Bona Fide Presentation Classification Error Rate (BPCER) veya yanlış pozitif oranı ve Attack Presentation Classification Error Rate (APCER) veya yanlış negatif oranı, orijinal veri üzerinde belirlenen eşik değerini kullanarak raporladı.

AMSL veri kümesinden morfolanmış yüzler.

Performansı daha iyi değerlendirmek için, Area Under the ROC Curve (AUC) ve gerçek ve sahte görüntüler için puan dağılımları incelendi.

Testler

Derin sahtekarlık tespit sonuçlarında, her iki ağ da güzelleştirme yoğunluğu arttıkça Equal Error Rates arttı. AlexNet’in EER’i orijinal görüntülerde %22,3’ten en yüksek pürüzsüzleştirme seviyesinde %28,1’e yükseldi, VGG19’un EER’i ise %30,2’den %35,2’ye yükseldi. Performans düşüşü her iki durumda da farklı bir modele takip etti:

CelebDF veri kümesinde AlexNet ve VGG19 ile derin sahtekarlık tespit sonuçları. Her iki model de orijinal ve güzelleştirilmiş görüntülerde, artan düzeyde yüz pürüzsüzleştirmesi ile test edildi. Gösterilen metrikler, Equal Error Rate (EER), Bona Fide Presentation Classification Error Rate (BPCER) ve Attack Presentation Classification Error Rate (APCER)’dir, orijinal test kümesinden sabit eşik değerleri kullanılarak. Tespit doğruluğu, güzelleştirme yoğunluğu arttıkça düştü, ancak bozulma modeli mimarilerine göre farklıydı.

Güzelleştirme arttıkça, AlexNet gerçek yüzleri sahteleri olarak yanlış sınıflandırma olasılığı arttı, BPCER’de (yanlış pozitif oranı) sürekli bir artış gösterdi. VGG19 ise, özellikle APCER’de (yanlış negatif oranı) bir artış gösterdi, yani sahteleri yakalama konusunda daha fazla zorluk yaşadı. İki model, filtrelere farklı şekilde tepki verdi, bu da iyi bilinen mimarilerin bile kozmetik değişikliklerle karşılaştıklarında farklı şekilde başarısız olabileceğini gösterdi.

Bu sonuçları daha iyi anlamak için, araştırmacılar güzelleştirme filtresini ayrı ayrı gerçek ve sahte görüntülere uyguladı ve tespit performansındaki etkiyi ölçtü. Aşağıdaki sonuç tablosu, her modelin zayıflığının kaynağını açıklar:

CelebDF veri kümesinde AlexNet ve VGG19 için kısmi güzelleştirme altında tespit doğruluğu. Tablo, üç senaryoyu raporlar: güzelleştirilmiş gerçek vs güzelleştirilmiş sahte (F-Real vs F-Fake); güzelleştirilmiş gerçek vs orijinal sahte (F-Real vs O-Fake); ve orijinal gerçek vs güzelleştirilmiş sahte (O-Real vs F-Fake), doğruluk azalması gösteren bir azalma. AlexNet, gerçek görüntüler güzelleştirildiğinde en çok etkilendi, VGG19 ise sahte görüntülere güzelleştirme uygulandığında en çok zorluk yaşadı.

AlexNet için, tespit performansı, gerçek görüntüler güzelleştirildiğinde düştü, ancak yalnızca sahte görüntülere güzelleştirme uygulandığında iyileşti. VGG19 için, performans, güzelleştirilmiş gerçek görüntülerde biraz iyileşti, ancak sahtelere güzelleştirme uygulandığında kötüleşti. Tüm durumlarda, güzelleştirme yoğunluğu arttıkça doğruluk azalması yaşandı.

CelebDF veri kümesinden gerçek ve sahte örneklerin AlexNet ve VGG19 tarafından üretilen puan dağılımlarını gösteren kutu grafikleri. Pürüzsüzleştirme yoğunluğu arttıkça, gerçek ve sahte görüntülerin puan dağılımları birbirinden daha az ayrılabilir hale geliyor, böylece tespit güvenilirliği azalır. AlexNet, gerçek yüzleri tanımlamada daha az güven duyarken, VGG19 sahte yüzleri yanlış sınıflandırma eğiliminde oluyor.

Güzelleştirme, AlexNet’in çıkış puanlarını gerçek ve sahte örnekler arasında daha uniform hale getirdi, VGG19 ise her sınıf içinde daha fazla dağılım gösterdi. Buna rağmen, her iki model de doğruluk kaybetti. AlexNet için, gerçek yüzlerin puanları sahtelerininkine yaklaştı. VGG19 için, gerçek ve sahte görüntülerin puanları birbirine yaklaştı, modelin onları ayırt etme yeteneğini azalttı.

Makalede şöyle deniyor:

Bu sonuçlar, önemli sonuçlar ortaya koyuyor ve güzellik filtrelerinin derin sahtekarlık tespitinde öngörülemez bir etkiye sahip olabileceğini gösteriyor. Özellikle, farklı mimariler güzellik filtrelerine farklı şekilde tepki veriyor, hatta bu filtreler aldatma amaçlı kullanılmıyorsa bile.

Örneğin, belirli bir derin sahtekarlık dedektörüne bağlı olarak, güzellik filtreleri çıktıyı önemli ölçüde değiştirebilir, gerçek görüntüleri sahteler olarak tanımlayabilir ve daha kritik olarak, derin sahtekarlıkların dedektörleri aldatmasına izin verebilir.

Bu nedenle, böyle kozmetik değişikliklere karşı dayanıklı dedektörlerin geliştirilmesine odaklanmak gerekli.

Morfolojik saldırı senaryosunda, sentetik bir görüntü, iki bireyin yüz özelliklerini birleştirerek oluşturuldu. Bu görüntü, biyometrik kimlik doğrulama sistemlerini aldatmak için kullanıldı, böylece her iki kaynak kimlik de aynı kişi olarak doğrulandı. Bu tür saldırılar, biyometrik sistemlerin yanıltılabileceği güvenlik ortamlarında özellikle ilgili olarak kabul ediliyor.

AMSL görüntülerinde morfolojik saldırı tespiti sonuçları, güzelleştirme uygulanmadan önce ve sonra. Her iki ağ da, pürüzsüzleştirme yoğunluğu arttıkça hata oranlarında önemli artışlar gösterdi.

Morfolojik saldırı senaryosunda, performans daha keskin bir şekilde bozuldu. AlexNet’in EER’i %27,6’dan %41,2’ye, VGG19’un EER’i ise %19,0’dan %37,3’e yükseldi, büyük ölçüde yanlış pozitiflerden (gerçek yüzlerin morflar olarak sınıflandırılması) kaynaklandı. %3’lük bir pürüzsüzleştirme yarıçapı ile, VGG19’un yanlış pozitif oranı %90’a ulaştı.

Bu model, her iki ağ için de geçerliydi. Gerçek yüzlerin pürüzsüzleştirilmesi, dedektörlerin performansını düşürdü, mentre yalnızca morfolanmış yüzlerin pürüzsüzleştirilmesi sonuçları iyileştirdi. Pürüzsüzleştirme yoğunluğu arttıkça, her iki ağ da gerçek ve sahte puanların birbirinden daha az ayrılabilir hale gelmesi nedeniyle dedektörlerin güvenilirliği azaldı. VGG19 özellikle dengesizdi.

Bu bulgular, yazarlara göre, güzellik filtrelerinin morfları derin sahtekarlıklardan daha etkili bir şekilde kaçırmaya yardımcı olabileceğini gösteriyor, bu da ciddi güvenlik endişeleri yaratıyor.

AlexNet’in sınıflandırmasının, minimal güzelleştirme (pürüzsüzleştirme yarıçapı %3) ile nasıl değiştiği hakkında (boşluk nedeniyle) kısmi örnekler. Solda, bir gerçek görüntü filtreleme sonrasında saldırı olarak sınıflandırılır, sağda ise bir morfolanmış görüntü filtreleme sonrasında gerçek olarak sınıflandırılır.

Son olarak, araştırmacılar, hatta hafif güzelleştirme filtrelerinin, state-of-the-art derin sahtekarlık ve morfolojik saldırı dedektörlerinin performansını önemli ölçüde düşürabileceğini buldu.

Etki, mimariye göre değişiyordu, AlexNet渐 dần bir düşüş gösterirken, VGG19 minimal filtreleme altında çöktü. Bu filtreler yaygın ve doğası gereği kötü niyetli olmadıkları için, saldırıları gizleme yetenekleri, özellikle biyometrik sistemlerde pratik bir tehdit oluşturuyor. Makale, böyle kozmetik değişikliklere karşı dayanıklı dedektörlerin geliştirilmesine ihtiyaç olduğunu vurguluyor.

Sonuç

Güzellik filtrelerinin derin sahtekarlık dedektörlerini etkisiz kılma yeteneği, bu filtrelerin gelecekte güvenlik nedenleriyle kısıtlanmasına neden olabilir. Bu, özellikle yüz değiştirme ve morfolojik saldırıların güvenlik açısından kritik ortamlarda daha da etkili bir şekilde gerçekleştirilebileceği anlamına gelir.