Güzellik Filtreleri Potansiyel Derin Sahte Saldırı Araçları

Güzellik filtreleri artık sadece lekeleri gizlemekle kalmıyor, aynı zamanda derin sahtecilik ve yüz morfolojisi saldırılarını tespit sistemlerinden kaçmasına yardımcı oluyor. Yeni bir çalışmaya göre, даже hafif pürüzsüzleştirme efektleri, yapay zeka tespit edicilerini karıştırarak sahte görüntüleri gerçek gibi gösterip gerçek olanlarını da sahte gibi göstermeye neden oluyor. Bu eğilim devam ederse, güzellik filtreleri, sınır kontrolünden kurumsal Zoom görüşmelerine kadar yüksek riskli bağlamlarda kısıtlanabilir.

2024 yılında İspanya ve İtalya arasındaki bir akademik işbirliği kapsamında, araştırmacılar 18-30 yaş arasındaki kadınların %90’ının sosyal medyaya yükledikleri resimlerde güzellik filtreleri kullandığını bildirdi. Bu bağlamda, güzellik filtreleri, yüz görünümünü supposedly iyileştirmek amacıyla algoritmik veya yapay zeka destekli yöntemlerdir:

2024 çalışmasından: Sol taraf kadın, sağ taraf erkek yüzleri, güzellik filtresi uygulanmadan önce ve sonra. Filtre, cilt tonu, gözler, burun, dudaklar, çene ve yanaklar gibi özellikleri güzelliği artırmak için değiştirdi. Kaynak: https://arxiv.org/pdf/2407.11981

Bu tür filtreler ayrıca, Snapchat ve Zoom gibi popüler video tabanlı sistemlerde yerel veya eklenti olarak genişletilmiş bir şekilde mevcuttur ve ‘kusurlu’ cildi pürüzsüzleştirmek ve hatta konunun yaşını değiştirmek gibi özellikler sunar, bu da kimliğin önemli ölçüde değişmesine neden olabilir:

Çalmağa tıklayın: Üç kadın, video ‘güzellik’ filtrelerini kapatıyor ve algoritmalar veya yapay zeka tarafından fiziksel özelliklerinin ne kadar değiştirildiği ortaya çıkıyor. Kaynak: https://www.youtube.com/watch?v=gtCpea_5qxw

2020 yılında City University of London’dan yapılan bir çalışma, ABD, Fransa ve İngiltere’deki genç Snapchat kullanıcılarının %90’ının uygulamalarında filtre kullandığını ortaya koydu. Meta ise Facebook veya Instagram’da 600 milyondan fazla gencin filtre kullandığını bildirdi.

Güzellik filtrelerinin mental sağlığı üzerindeki olumsuz etkilerini inceleyen bir Psychology Today raporuna göre, çalışılan genç kadınların %90’ı, ortalama yaşları 20 olan, ya filtre kullanıyor ya da resimlerini bazı şekilde düzenleyerek paylaşıyor. En popüler filtreler, cilt tonunu eşitlemek, bronz bir görünüm kazandırmak, dişleri beyazlatmak ve vücut ölçüsünü azaltmak için kullanılıyordu.

Yüzle Yüz

Yüz filtreleri, 2025 yılında video sentezinde yaşanan devrimden ve genel olarak bu araştırma alanındaki süregelen ilgi nedeniyle faydalanmaya devam edecek gibi görünüyor. Ancak bu, güvenlik topluluğu tarafından sahte veya suç içerikli derin sahtecilik video teknikleri konusunda endişe yaratıyor.

Bir sorun, son yıllarda geliştirilen ve video derin sahtecilerini ortaya çıkarmaya yönelik ‘kolay’ testlerin, bu zayıflıkların eğitim verilerinde ve çıkarım sırasında hesaba katılmasıyla giderek daha az etkili hale gelmesidir. Bu testler, büyük miktarda para çalmak isteyen bir şirket bağlamında dolandırıcılık yapmaya çalışan bir video derin sahtecisini ortaya çıkarmak için tasarlandı:

Çalmağa tıklayın: Üç veya dört yıl önce, elini yüzünün önünde sallamak, video görüşmelerde bir derin sahtecilik testi için güvenilir bir yöntemdi, ancak TikTok gibi platformların yoğun çabaları sayesinde klasik ‘ipuçları’nı aşmaya başladılar. Kaynaklar: A.g.y. ve https://archive.is/mofRV#wavehands

Daha kritik olarak, yüz değiştirme veya değiştirme güzellik filtrelerinin yaygın kullanımı, video derin sahtecilerini tespit eden yeni ve ortaya çıkan bir nesil derin sahtecilik dedektörlerinin işini zorlaştırıyor. Bu dedektörler, yönetim kurulu video görüşmelerine girmeye çalışan sahtekarları ve ‘kaçırmak’ ve ‘sahtekarlık’ gibi dolandırıcılık kurbanlarını korumakla görevlidir.

Derin sahteciliği inandırıcı hale getirmek, fotoğraf veya video olsun, düşük çözünürlüklü bir görüntüde veya görüntünün bazı şekilde bozulmuş olması durumunda daha kolaydır. Bu, çünkü altta yatan sahtecilik sistemi, kendi eksikliklerini, bağlantı veya platform sorunları gibi gösterebilir.

Aslında, en popüler güzellik filtreleri, video derin sahtecilerini tespit etmek için kullanılan bazı en faydalı materyalleri, cilt dokusu ve diğer yüz ayrıntıları gibi, kaldırır veya bozar – ve yaşlı bir yüzün, muhtemelen daha fazla ayrıntı içereceği düşünüldüğünde, böyle bir durumda güzellik filtrelerinin usageı özellikle cezbedici olabilir.

Ayrıntısız bir ‘android’ tarzı görünüm modaysa, derin sahtecilik dedektörleri gerçek ve sahte görüntüleri ve video kişilikleri ayırt etmek için gerekli materyali bulamayabilir. Kaynak: https://www.instagram.com/reel/DMyGerPtTPF/?hl=en

Royal Society’nin 2024 yılının sonlarında yayımlanan makalesi Güzellik masih iyidir: Güzellik filtreleri çağındaki çekicilik halesi, güzellik filtrelerinin kullanımının her iki cinsiyet için genel çekiciliği evrenselleştirdiğini, ancak güzelliği artıran kadınların zekâsı hakkında daha düşük bir genel değerlendirme ile sonuçlandığını onayladı.

Bu nedenle, bu teknolojinin popüler olduğu, işe yaradığı ve çeşitli bağlamlarda突然 güvenlik kısıtlamalarına tabi tutulması veya yasaklanması durumunda bir kültür şokuna neden olacağı söylenebilir.

Ancak, video derin sahtecilerinin gerçek video katılımcılarından ayırt edilemeyecek hale gelme tehdidiyle karşı karşıya kalan bir dönemde, güzellik filtrelerinin küresel ‘gürültüsünün’ gelecekte güvenlik nedenleriyle azaltılması gerekebilir.

Düzgün Suçlular

Sorun, İtalya’daki Cagliari Üniversitesi’nden yeni bir makale ile en son olarak araştırıldı. Makale, Aldatıcı Güzellik: Derin Sahtecilik ve Morflama Saldırı Tespitinde Güzellik Filtrelerinin Etkisinin Değerlendirilmesi başlığını taşıyor.

Araştırmacılar, iki referans veri kümesindeki yüzlere güzellik filtreleri uyguladı ve birkaç derin sahtecilik ve morflama saldırı dedektörünü hem orijinal hem de değiştirilmiş görüntülerde test etti.

Her durumda neredeyse, güzelleştirme sonrası tespit doğruluğu düştü; en dramatik düşüşler, filtreler kırışıklıkları pürüzsüzleştirdiğinde, cilt tonunu açtı veya yüz özelliklerini ince bir şekilde değiştirdiğinde meydana geldi. Bu değişiklikler, tespit modellerinin güvendiği ipuçlarını kaldırdı veya bozdu.

Örneğin, MorphDB’de en iyi performans gösteren model, filtreleme sonrası %9’dan fazla doğruluk kaybetti ve sorun, birden fazla tespit mimarisi boyunca devam etti, bu da mevcut sistemlerin ortak kozmetik iyileştirmelere karşı dayanıklı olmadığını gösterdi.

Araştırmacılar şöyle diyor:

‘Güzellik filtreleri, biyometrik kimlik doğrulama ve adli analiz sistemlerinin bütünlüğüne tehdit oluşturuyor ve böyle koşullarda dayanıklı derin sahtecilik ve morflama saldırısı tespitini sağlamak, kritik bir açık zorluk teşkil ediyor.

‘Gelecek çalışmalar, günlük ve güvenlik açısından kritik bağlamlarda güvenilir kimlik tanımlaması ve içerik doğrulaması için, kötü niyetli olsun veya olmasın, böyle ince, gerçek dünya değişikliklerine karşı dayanıklı dijital manipülasyon tespit sistemlerinin geliştirilmesine öncelik vermelidir.’

Yöntem ve Veri

Derin sahtecilik ve morflama tespitinde güzellik filtrelerinin etkisini değerlendirmek için, araştırmacılar bir ilerici pürüzsüzleştirme filtresi uyguladı ve sonuçları, hedef probleme iyi ilişkili iki referans convolutional neural network (CNN) üzerinde test etti: AlexNet ve VGG19.

Her iki referans veri kümesi de, uygulanan yüz manipülasyonlarının örneklerini içeriyordu. İlk veri kümesi, CelebDF idi. Bu, 590 gerçek ve 5,639 sahte klipten oluşan büyük ölçekli bir video referans veri kümesiydi. Veri kümesi, 59 kişiden oluşan çeşitli aydınlatma koşulları, baş duruşları ve doğal ifadeleri sunuyor ve gerçek dünya medya senaryolarında derin sahtecilik dedektörlerinin direncini değerlendirmek için uygun görünüyordu:

CelebDF’den etkilenen yüz örnekleri. Kaynak: https://github.com/yuezunli/celeb-deepfakeforensics

İkinci veri kümesi, AMSL (kayıt gerekli) idi. Bu, Face Research Lab London koleksiyonundan oluşturulan bir morflama saldırısı veri kümesiydi. Veri kümesi, 102 konudan nötr ve gülümseyen ifadeleri içeriyor ve sınır kontrolü gibi bağlamlarda biyometrik kimlik doğrulama sistemleri için gerçekçi zorlukları yansıtmak üzere yapılandırılmıştı.

AMSL’de kullanılan FRLL (Face Research Lab London Set) veri kümesinden görüntüler. Kaynak: https://figshare.com/articles/dataset/Face_Research_Lab_London_Set/5047666?file=8541955

Her bir ağ, derin sahtecilik veya morflama veri kümesinin %80’inde eğitildi ve kalan %20’si doğrulama için kullanıldı. Güzelleştirmeye karşı dayanıklılığı test etmek için, araştırmacılar test görüntülerine ilerleyici bir pürüzsüzleştirme filtresi uyguladı ve yüz yüksekliğinin %3’ünden %5’ine kadar olan bulanık yarıçapını artırdı:

CelebDF (üst) ve AMSL (alt) veri kümelerinden yüz örnekleri, güzelleştirme tabanlı bir güzellik filtresi uygulanmadan önce ve sonra. Filtre yarıçapı, yüz yüksekliğine göre ölçeklendirildi ve c = %3 ve c = %5 daha güçlü etkiler üretti.

Metrikler açısından, her model, orijinal ve güzelleştirilmiş test örneklerinde Eşit Hata Oranı (EER) ile değerlendirildi. Analiz ayrıca, orijinal veri üzerinde belirlenen eşiği kullanarak, Bona Fide Sunu Sınıflandırma Hatası Oranı (BPCER) veya yanlış pozitif oranı ve Saldırı Sunu Sınıflandırma Hatası Oranı (APCER) veya yanlış negatif oranı bildirdi.

AMSL veri kümesinden morflanmış yüzler.

Performansı daha iyi değerlendirmek için, Gerçekleştirilen Alanın Altında ROC Eğrisi (AUC) ve gerçek ve sahte görüntüler için puan dağılımları incelendi.

Testler

Derin sahtecilik tespiti sonuçlarında, her iki ağ da güzelleştirme yoğunluğunun artmasıyla Eşit Hata Oranında (EER) bir artış gösterdi. AlexNet’in EER’si, orijinal görüntülerde %22,3’ten en yüksek pürüzsüzleştirme seviyesinde %28,1’e yükseldi. VGG19’un EER’si ise %30,2’den %35,2’ye çıktı. Performans düşüşü her iki durumda da farklı bir model izledi:

CelebDF veri kümesinde AlexNet ve VGG19 kullanarak derin sahtecilik tespiti sonuçları. Her iki model de orijinal ve güzelleştirilmiş görüntülerde, artan yüz pürüzsüzleştirme seviyeleriyle test edildi. Eşit Hata Oranı (EER), Bona Fide Sunu Sınıflandırma Hatası Oranı (BPCER) ve Saldırı Sunu Sınıflandırma Hatası Oranı (APCER) gibi metrikler, orijinal test kümesinden sabit eşiği kullanarak gösterildi. Tespit doğruluğu, güzelleştirme yoğunluğunun artmasıyla düştü, ancak bozulma modeli mimarilere göre farklıydı.

Güzelleştirme arttıkça, AlexNet gerçek yüzleri sahte olarak sınıflandırma olasılığı daha da arttı, bu da yanlış pozitif oranında (BPCER) sürekli bir artışa yol açtı. VGG19 ise主要 olarak sahte yüzleri yakalama konusunda zorluk çekti, bu da yanlış negatif oranında (APCER) bir artışa neden oldu. İki model, filtrelere farklı şekilde tepki verdi, bu da iyi bilinen mimarilerin dahi kozmetik değişikliklere maruz kaldıklarında farklı şekillerde başarısız olabileceğini gösterdi.

Bu sonuçları daha iyi anlamak için, araştırmacılar güzelleştirme filtresini ayrı ayrı gerçek ve sahte görüntülere uyguladı ve tespit performansındaki etkisini ölçtü. Aşağıdaki sonuç tablosu, her modelin zayıflığının kaynağını açıklıyor:

CelebDF veri kümesinde AlexNet ve VGG19 kullanarak güzelleştirme altında kısmi tespit doğruluğu. Tablo, üç senaryoyu raporlar: güzelleştirilmiş gerçek vs. güzelleştirilmiş sahte (F-Gerçek vs. F-Sahte); güzelleştirilmiş gerçek vs. orijinal sahte (F-Gerçek vs. O-Sahte); ve orijinal gerçek vs. güzelleştirilmiş sahte (O-Gerçek vs. F-Sahte), doğrulukta bir azalma, azaltılmış dedektör performansı anlamına gelir. AlexNet, gerçek görüntülerin güzelleştirilmesinden en çok etkilendi, जबकi VGG19, sahte görüntülere güzelleştirme uygulanmasından en çok etkilendi.

AlexNet için, tespit performansı, gerçek görüntülerin güzelleştirilmesiyle düştü, ancak yalnızca sahte görüntülerin pürüzsüzleştirilmesiyle iyileşti. VGG19 için, gerçek görüntülerin güzelleştirilmesiyle performansı biraz iyileşirken, sahte görüntülere güzelleştirme uygulanmasıyla performansı kötüleşti. Tüm durumlarda, güzelleştirmenin artması doğruluğu azalttı.

CelebDF veri kümesinden gerçek ve sahte örneklerin AlexNet ve VGG19 tarafından üretilen puan dağılımlarını gösteren kutu grafikleri. Pürüzsüzleştirme yoğunluğunun artmasıyla, gerçek ve sahte görüntülerin puan dağılımları daha az ayrılabilir hale geliyor, bu da tespit güvenilirliğini azaltıyor. AlexNet, gerçek yüzleri tanımlamada daha az güveniyor, जबकi VGG19, sahte yüzleri yanlış sınıflandırmaya daha yatkın hale geliyor.

Güzelleştirme, AlexNet’in çıktı puanlarını hem gerçek hem de sahte örnekler için daha uniform hale getirdi, जबकi VGG19, her sınıf içinde daha fazla dağılım gösterdi. Buna rağmen, her iki model de doğruluk kaybetti. AlexNet için, gerçek yüzlerin puanları, sahte yüzlerin puanlarına daha yakın hale geldi. VGG19 için, gerçek ve sahte görüntülerin puanları, modelin onları ayırt etme yeteneğini azaltarak örtüştü.

Makale şöyle diyor:

‘Bu sonuçlar, derin sahtecilik tespitinde güzelleştirme filtrelerinin potansiyel kullanımını dikkate almak gerektiğini gösteriyor, çünkü bunlar performansı öngörülemez bir şekilde etkileyebilir. Özellikle, farklı mimariler yüz manipülasyonlarına farklı şekilde tepki veriyor, bunlar aldatma amaçlı olmasa bile.

‘Örneğin, belirli bir derin sahtecilik dedektörüne bağlı olarak, güzelleştirme filtreleri, çıktı puanını önemli ölçüde değiştirebilir, gerçek görüntüleri sahte olarak tanımlayabilir ve daha kritik olarak, sahte görüntülerin dedektörü aldatmasına izin verebilir.

‘Dolayısıyla, böyle ince, gerçek dünya değişikliklerine karşı dayanıklı dedektörlerin geliştirilmesine odaklanmak gerekli.’

Morflama saldırısı senaryosunda, sentetik bir görüntü, iki bireyin yüz özelliklerini birleştirmek için oluşturuldu. Bu görüntü, yüz tanıma sistemlerini aldatmak ve her iki kaynak kimliğinin aynı kişi olarak kimlik doğrulamasını sağlamak için kullanıldı. Bu tür saldırılar, biyometrik sistemlerin kandırılabileceği güvenlik bağlamlarında özellikle ilgili kabul ediliyor.

AMSL görüntülerinde morflama saldırısı tespiti sonuçları, güzelleştirmeden önce ve sonra. Her iki ağ da, pürüzsüzleştirme yoğunluğunun artmasıyla hata oranlarında keskin bir artış gösterdi.

Morflama saldırısı senaryosunda, performansı daha da fazla bozuldu. AlexNet’in EER’si %27,6’dan %41,2’ye, VGG19’un EER’si ise %19,0’dan %37,3’e çıktı, büyük ölçüde yanlış pozitifler nedeniyle: Gerçek yüzlerin morflar olarak yanlış sınıflandırılması. %3’lük bir pürüzsüzleştirme yarıçapı ile VGG19’un yanlış pozitif oranı %90’a ulaştı.

Bu model, filtrelerin seçici olarak uygulanmasıyla da devam etti. Gerçek yüzlerin pürüzsüzleştirilmesi, tespiti bozdu, ancak yalnızca morflanmış yüzlerin pürüzsüzleştirilmesi, sonuçları iyileştirdi. Pürüzsüzleştirmenin yoğunluğunun artmasıyla, her iki ağ da gerçek ve sahte puanların daha az ayrılabilir hale gelmesi nedeniyle azaltılmış tespit güvenilirliği gösterdi, VGG19 özellikle dengesizdi.

Araştırmacılar, bu bulguların, güzellik filtrelerinin morfları derin sahteciliklerden daha etkili bir şekilde tespit edilememelerine yardımcı olabileceğini, bu da ciddi güvenlik endişeleri yaratıyor.

AlexNet’in sınıflandırmasının, minimal güzelleştirmenin (pürüzsüzleştirme yarıçapı %3) nasıl değiştirildiğini gösteren kısmi örnekler. Solda, bir gerçek görüntü, filtreleme sonrası bir saldırı olarak yanlış sınıflandırılırken, sağda, bir morflanmış görüntü, filtreleme sonrası gerçek olarak yanlış sınıflandırılır.

Son olarak, araştırmacılar, hafif güzelleştirme filtrelerinin, state-of-the-art derin sahtecilik ve morflama dedektörlerinin performansını önemli ölçüde bozabileceğini buldu.

Araştırmacılar, bu etki mimariye göre değişirken, AlexNet渐 dần bir düşüş gösterirken, VGG19 minimal filtreleme altında çöktü. Bu filtreler yaygın ve doğası gereği kötü niyetli olmadığından, saldırıları gizleme yetenekleri, özellikle biyometrik sistemlerde pratik bir tehdit oluşturuyor. Makale, böyle ince görüntü manipülasyonlarına karşı dayanıklı tespit modellerinin geliştirilmesine ihtiyaç olduğunu vurguluyor.

Sonuç

Derin sahtecilik tespit sistemlerini, güzellik filtrelerini görmezden gelebilecek şekilde eğitmek için bir neden, kontrast materyalin eksikliğidir. Sonunda, ‘güzelleştirilmiş’ versiyon, yaygın olarak paylaşılan olandır ve daha önce gördüğümüz video gibi, ‘önceki’ bir resmin uygulanması nadirdir.

Diğer bir engel, birçok filtrelerin, görüntüleri veya videoları kaydederken veya sıkıştırırken yapılan tipik pürüzsüzleştirme işlemlerinin aynısını gerçekleştirmesidir (bu, sağlayıcılar için bant genişliği açısından bir avantajdır ve aynı zamanda dijital bir cilt bakımıdır).

Derin sahtecilik tespit araştırmaları, gerçek dünya görüntü bozulmaları, düşük kaliteli kameralar, aşırı sıkıştırma veya kesintili ağ bağlantısı gibi konularla zaten mücadele ediyor – tüm bunlar, zorlanmak zorunda kaldıkları yüksek kaliteli, yüksek çözünürlüklü bir senaryoda derin sahtecilik dolandırıcılarına doğrudan bir avantaj sağlıyor.

Güzellik filtrelerinin sonunda bir güvenlik sorumluluğu olarak tehdit edilip edilmeyeceği, muhtemelen derin sahtecilik tarama yöntemlerine engel oluşturma derecesine veya malniyetlilere daha fazla yarar sağlayan de facto bir güvenlik duvarı oluşturma derecesine bağlı gibi görünüyor.

İlk olarak 24 Eylül 2025 Çarşamba günü yayımlandı.