Kauneusfiltterit ovat potentiaalinen syväväärennöksen hyökkäysväline

Kauneusfiltterit tekevät nyt enemmän kuin peittävät epäkohdat: ne voivat auttaa syväväärennöksiä ja kasvojen muokkauksia pääsemään ohi havaitsemisjärjestelmiä. Uusi tutkimus osoittaa, että jopa hienoiset sileät vaikutukset voivat hämmennystä AI-havainnoitsijoita, tehden vääräkuvat näyttää aidoilta ja aidoilta väärilta. Jos tämä kehitys jatkuu, kauneusfiltterit voivat kohtaa rajoituksia korkean panoksen konteksteissa, rajavalvonnasta yritysten Zoom-kokouksiin.

Vuonna 2024 Espanjan ja Italian välisten tutkijoiden yhteistyö osoitti, että 90 % naisista ikäluokassa 18-30 käytti kauneusfiltterejä ennen kuin julkaisi kuvia sosiaalisessa mediassa. Tässä mielessä kauneusfiltterit ovat algoritmisia tai AI-tukea kasvojen muokkaukselle, jotta ne olisivat parannettuja alkuperäisistä lähteistä:

Vuoden 2024 tutkimuksesta: esimerkki naisten (vasemmalla) ja miesten (oikealla) kasvojen ennen ja jälkeen kauneusfiltterin käytön. Filtteri muutti kasvonpiirteitä, kuten ihon sävyä, silmiä, nenää, huulia, leuka ja poskipäitä, jotta ne olisivat viehättävämmät. Lähde: https://arxiv.org/pdf/2407.11981

Tällaisia filtterejä on myös laajasti saatavilla alkuperäisinä tai lisäominaisuuksina suosituissa videojärjestelmissä, kuten Snapchat ja Zoom, jotka tarjoavat mahdollisuuden sileittää “epätäydellistä” ihoa ja jopa muuttaa henkilön ikää, jolloin identiteetti voisi muuttua merkittävästi:

Paina toistamaan:kolme naista poistaa videonsa “kauneus”-suotimet, paljastaen, kuinka paljon heidän fyysinen olemus muuttuu algoritmien tai AI:n avulla. Lähde: https://www.youtube.com/watch?v=gtCpea_5qxw

Ilmiö näytti saavuttavan kyllästymispisteen, kun teknologia oli suhteellisen kehittynyt; vuoden 2020 tutkimus Lontoon City-yliopistosta paljasti, että 90 % nuorista Snapchat-käyttäjistä Yhdysvalloissa, Ranskassa ja Iso-Britanniassa käytti filtterejä sovelluksissaan, kun taas Meta ilmoitti, että yli 600 miljoonaa nuorta oli käyttänyt filtterejä Facebookissa tai Instagramissa.

Kauneusfiltterien haitalliset vaikutukset mielenterveyteen, Psychology Today raportti toisti, että 90 % nuorista naisista, joilla keski-ikä oli 20, joko käytti filtterejä tai muokkasi valokuviaan jollain tavoin. Suosituimmat filtterit olivat ne, jotka tasoittivat ihon sävyä, antoivat ruskettuneen ulkonäön, valkaisivat hampaat ja pienensivät kehon kokoa.

Kasvot vastakkain

Kun kasvojen filtterit hyötyvät vuoden 2025 vallankumouksesta videon synteesissä ja yleisemminkin kiinnostuksesta tässä tutkimusalueessa, määrä, jonka voimme “uudelleenluoda” tai uudelleenmieltää itseämme videopuhelussa, on kasvamassa turvallisuusyhteisön huolen aiheena väärän tai rikollisen syväväärennöksen videotekniikoita vastaan.

Yksi ongelma on, että joukko “helppoja” testeja, jotka on kehitetty viime vuosina paljastamaan videon syväväärennös, joka voi yrittää petkuttaa suuria rahasummia yrityksissä, on välttämättä tulevaisuudessa vähemmän tehokas, kun nämä heikkoudet otetaan huomioon koulutusdatasta ja johtopäätöksistä:

Paina toistamaan:kolme tai neljä vuotta sitten kätten heiluttaminen syväväärennetyn kasvojen edessä oli luotettava testi videopuheluille, mutta voidaan nähdä, miten omistautunut työ TikTokissa on tehnyt merkittäviä edistysaskelia perinteisiin “merkkeihin”. Lähteet: Ibid ja https://archive.is/mofRV#wavehands

Paljon kriittisemmässä mielessä laajasti käytetyt kasvojen muuttamis-/parannusfiltterit hämärtävät vettä uudelle sukupolvelle syväväärennösten ja muokkausten havaitsemisjärjestelmille, jotka pyrkivät pitämään huijarit pois johtoryhmien videopuheluista ja heikoista uhreista, jotka ovat alttiita ‘kaappauksen ja ‘huijarin’ petoksen” uhreille.

On helpompi tehdä syväväärennös uskottavaksi, olipa se kuva tai video, jos kuvan resoluutio on matala tai kuva on jollain tavoin heikentynyt, koska perustavanlaatuinen väärennysjärjestelmä voi piilottaa omat puutteensa yhteyden tai alustan ongelmien taakse.

Toisin sanoen suosituimmat kauneusfiltterit poistavat joitain hyödyllisimmistä materiaaleista syväväärennösten tunnistamiseksi, kuten ihon tekstuurin ja muiden kasvojen yksityiskohtien – ja on syytä huomata, että mitä vanhempi kasvo on, sitä enemmän yksityiskohtia se todennäköisesti sisältää, ja siten ylpeysikäraja filtterit voivat olla erityinen viehätys tällaisissa tapauksissa.

Jos yksityiskohtien puute ‘androideille’ tyylisessä ulkonäössä on muodikasta, syväväärennösten havainnoitsijat saattavat jättää tarpeettomat materiaalit erottamaan aitoja ja väärennettyjä kuvia ja videopersonoita. Lähde: https://www.instagram.com/reel/DMyGerPtTPF/?hl=en

Royal Societyn myöhäisen vuoden 2024 julkaisu Mikä on kaunista, on edelleen hyvää: kauneuden auraefekti kauneusfiltterien aikakaudella vahvisti, että filtterien käyttö yleisesti lisää yleistä viehättävyyttä molemmilla sukupuolilla (vaikka lisääntynyt viehättävyys taipuu alentamaan yleistä älymääräarvioita kauneusfilttereillä muokattujen naisten kohdalla).

Siksi on syytä sanoa, että tämä on suosittu teknologia; se toimii; ja se olisi jonkinlainen kulttuurishokki, jos se yhtäkkiä tulisi turvallisuuden rajoituksien alaiseksi tai kiellettyä monissa konteksteissa.

Kuitenkin aikakaudella, jossa videon syväväärennökset uhkaavat tulla erottamattomaksi aitojen videopuhelujen osallistujista sekä ulkonäön että puheen suhteen, on mahdollista, että kauneusfiltterien globaali “melu” on mitattava tulevaisuudessa turvallisuuden vuoksi.

Smooth Criminals

Ongelmaa on tutkittu viimeksi uudessa tutkimuksessa Cagliarin yliopistosta Italiasta, jonka otsikko on Petollinen kauneus: arviointi kauneusfiltterien vaikutuksesta syväväärennösten ja muokkaushyökkäysten havaitsemiseen.

Tutkimuksessa tutkijat sovelsivat kauneusfiltterejä kahden vertailudatan kasvoihin ja testasivat useita syväväärennös- ja muokkaushyökkäyshavainnoitsijoita alkuperäisissä ja muokatussa kuvissa.

Lähes jokaisessa tapauksessa havaintojen tarkkuus laski kauneuttumisen jälkeen; dramaattisimmat laskut tapahtuivat, kun filtterit sileittivät ryppyjä, kirkastivat ihon sävyä tai hienoisesti muokkasivat kasvonpiirteitä. Nämä muutokset poistivat tai vääristivät ne vihjeet, joita havaintomallit riippuvat.

Esimerkiksi MorphDB:n paras malli menetti yli 9 %:n tarkkuuden filtteröinnin jälkeen, ja ongelma jatkui useiden havaintoarkkitehtuurien yli, osoittaen, että nykyiset järjestelmät eivät ole kestäviä yleisille kosmeettisille parannuksille.

Tutkijat toteavat:

‘[Kauneus]filtterit muodostavat uhan biometrisen tunnistamisen ja oikeudellisen analyysin järjestelmien eheydelle, ja tekevät syväväärennösten ja muokkaushyökkäysten havaitsemisesta avainhaasteen sellaisissa olosuhteissa, joissa niitä ei välttämättä tarkoiteta petokseksi, vaan turvallisen identiteetin tunnistamiseksi ja sisällön vahvistamiseksi arkipäivän ja turvallisuuden kannalta kriittisissä konteksteissa.’

‘Tulevaisuuden työssä tulisi priorisoida kestävien digitaalisen manipulaation havaitsemisjärjestelmien kehittämistä, jotka ovat kestäviä tällaisille hienoisille, maailmanlaajuisille muutoksille, joita voidaan käyttää hyväksi petollisissa syväväärennöksissä ja muokkaushyökkäyksissä, ja varmistaa luotettava identiteetin tunnistaminen ja sisällön vahvistaminen sekä arkipäivän että turvallisuuden kannalta kriittisissä konteksteissa.’

Menetelmä ja data

Arvioidakseen, miten kauneusfiltterit vaikuttavat syväväärennösten ja muokkaus -hyökkäysten havaitsemiseen, tutkijat sovelsivat jatkuvaan sileitysfiltteriin ja testasivat tuloksia kahdella vertailuconvolutional-neuraaliverkolla (CNN), jotka liittyvät kohdeongelmaan: AlexNet ja VGG19.

Kumpikaan verkosta koulutettiin 80 %:ssa syväväärennös- tai muokkausdatasta, ja loput 20 %:a käytettiin validointiin. Testatakseen kestävyyttä kauneuttumista vastaan tutkijat sovelsivat sitten jatkuvaan sileitysfiltterin testikuvissa, kasvattaen sumennus-säteitä 3 %:sta 5 %:iin kasvojen korkeudesta:

Esimerkki kasvoista CelebDF- (yläosa) ja AMSL- (alaosa) datasta ennen ja jälkeen sileitysfiltterin soveltamisen. Filtterin säde mitattiin suhteessa kasvojen korkeuteen, ja c = 3 % ja c = 5 % tuottivat vähitellen voimakkaampia vaikutuksia.

Mittareina kumpikaan malli arvioitiin Equal Error Rate (EER):llä alkuperäisillä ja kauneutetuilla testinäytteillä. Analyysi raportoi myös Bona Fide Presentation Classification Error Rate (BPCER):n eli väärän positiivisen luokittelun ja Attack Presentation Classification Error Rate (APCER):n eli väärän negatiivisen luokittelun, käyttäen kynnystä, joka asetettiin alkuperäisille tiedoille.

Muokatut kasvot AMSL-datasta.

Arvioidakseen suorituskyvyn tarkemmin, tutkijat tarkastelivat myös ROC-käyrän alueen ja aitojen ja väärennettyjen kuvien pistejakaumia.

Testit

Syväväärennösten havaitsemistuloksissa molemmat verkot osoittivat nousseita yhdenmukaisia virheellisiä luokitteluiden määrää, kun kauneuttumisen voimakkuus kasvoi. AlexNetin EER nousi 22,3 %:sta 28,1 %:iin korkeimmalla sileitystasolla, kun taas VGG19:n nousi 30,2 %:sta 35,2 %:iin. Suorituskyvyn lasku seurasi eri kaavoja kummassakin tapauksessa:

Syväväärennösten havaitsemistulokset CelebDF-datasta AlexNetillä ja VGG19:llä. Molemmat mallit testattiin alkuperäisillä ja kauneutetuilla kuvilla, joissa kasvojen sileitys kasvoi. Mittareina näkyvät yhdenmukainen virheellinen luokittelu (EER), Bona Fide Presentation Classification Error Rate (BPCER) ja Attack Presentation Classification Error Rate (APCER), joissa käytettiin kiinteitä kynnyksiä alkuperäisestä testijoukosta. Havaintotarkkuus laski, kun kauneuttumisen voimakkuus kasvoi, vaikka laskun kaava erosi arkkitehtuureittain.

Kun kauneuttumisen voimakkuus kasvoi, AlexNetistä tuli todennäköisemmin sekoittamaan aitoja kasvoja väärennetyiksi, mikä näkyy sen nousseessa väärän positiivisen luokittelun (BPCER) määrässä. VGG19 sen sijaan kamppaili enemmän väärennettyjen itse havaitsemisessa, mikä johti kasvavaan väärän negatiivisen luokittelun (APCER) määrään. Molemmat mallit reagoivat filttereihin eri tavoin, osoittaen, että jopa tunnetut arkkitehtuuri voivat epäonnistua eri tavoilla, kun ne kohtaavat kosmeettisia muutoksia.

Tutkijat sovelsivat kauneusfiltterin erikseen aitoihin ja väärennetyihin kuviin ja mitasivat vaikutusta havaintojen suorituskykyyn. Tämä erittely, joka on esitetty taulukossa alla, selventää kunkin mallin haavoittuvuuden lähdettä:

Havaintotarkkuus AlexNetillä ja VGG19:llä CelebDF-datasta osittaisella kauneuttumisella. Taulukko raportoi kolmea skenaariota: kauneutettu aito vs. kauneutettu väärennös (F-Real vs F-Fake); kauneutettu aito vs. alkuperäinen väärennös (F-Real vs O-Fake); ja alkuperäinen aito vs. kauneutettu väärennös (O-Real vs F-Fake), jossa tarkkuuden lasku osoittaa heikentynyttä havaintojen suorituskykyä. AlexNet oli eniten vaikuttunut, kun aitoja kuvia kauneutettiin, kun taas VGG19 kamppaili eniten, kun kauneusfiltteri sovellettiin väärennetyihin kuviin.

AlexNetin havaintojen tarkkuus laski, kun aitoja kuvia kauneutettiin, mutta parani, kun vain väärennetyt kuvat sileitettiin. VGG19:n suorituskyky parani hieman, kun aitoja kuvia kauneutettiin, mutta heikkeni, kun syväväärennökset suodatettiin. Kaikissa tapauksissa voimakkaampi kauneuttuminen vähensi tarkkuutta.

Pakkauskaaviot AlexNetin ja VGG19:n tuloksista CelebDF-datasta aidoissa ja väärennetyissä näytteissä, joissa kasvojen sileitys kasvoi. Kun sileitys voimistuu, pisteet aidoissa ja väärennetyissä kuvissa tulevat vähemmän erottuviksi, osoittaen heikentynyttä havaintojen luotettavuutta. AlexNetistä tulee vähemmän varma aitojen kasvojen tunnistamisessa, kun taas VGG19:stä tulee todennäköisemmin sekoittamaan väärennetyt aidoiksi.

Tutkimusraportti toteaa:

Nämä tulokset ovat tärkeitä ja osoittavat, että on tarpeen ottaa huomioon kauneusfiltterien mahdollinen käyttö syväväärennösten havaitsemisessa, koska ne voivat vaikuttaa suorituskykyyn. Erityisesti eri arkkitehtuuri reagoi eri tavoin kasvojen muokkauksiin, vaikka ne eivät välttämättä ole tarkoitettu petokseksi.

Esimerkiksi riippuen syväväärennösten havainnoitsijasta, kauneusfiltterit voivat muuttaa tuloksia merkittävästi, tehden aitoja kuvia väärennetyiksi ja, kriittisemmin, sallien syväväärennösten pettää havainnoitsijan.

Siksi on tarpeen keskittyä kehittämään havainnoitsijoita, jotka ovat kestäviä tällaisille hienoisille, maailmanlaajuisille muutoksille, joita voidaan käyttää hyväksi petollisissa syväväärennöksissä ja muokkaushyökkäyksissä, ja varmistaa luotettava identiteetin tunnistaminen ja sisällön vahvistaminen sekä arkipäivän että turvallisuuden kannalta kriittisissä konteksteissa.

Muokkaushyökkäysskenaariossa syntetisoitiin kuvaa yhdistämällä kahden henkilön kasvonpiirteitä. Tätä kuvaa käytettiin pettämään kasvon tunnistusjärjestelmiä, jolloin molemmat alkuperäiset identiteetit voitiin todentaa samaksi henkilöksi. Tällaiset hyökkäykset ovat erityisen merkittäviä turvallisuuskonteksteissa, joissa biometriset järjestelmät voivat olla harhautettavissa virheellisiksi tunnistamisi hyökkäyskuvaksi.

Yllä oleva taulukko osoittaa muokkaushyökkäyshavaintotulokset AMSL-kuvissa ennen ja jälkeen kauneuttumisen, ja molemmat verkot osoittavat jyrkkää virheellisen luokittelun kasvua, kun sileitys voimistuu.

Muokkaushyökkäysskenaariossa suorituskyky heikkeni terävemmin kuin syväväärennösten havaitsemisessä. AlexNetin EER nousi 27,6 %:sta 41,2 %:iin, ja VGG19:n 19,0 %:sta 37,3 %:iin, pääasiassa väärien positiivisten luokitteluiden vuoksi: aitoja kasvoja luokiteltiin muokatuiksi. 3 %:n sileityssäteessä VGG19:n väärän positiivisen luokittelun määrä saavutti 90 %.

Tämä kaava säilyi, kun filtterit sovellettiin valikoivasti. Aitojen kasvojen sileittäminen heikensi havaintaa, kun taas ainoastaan muokatun kasvojen sileittäminen paransi tuloksia. Kun sileitys voimistui, molemmat verkot osoittivat vähenevää erottuvuutta aitojen ja väärennettyjen pisteytyksissä, ja VGG19:stä tuli erityisen epävakaa.

Nämä tulokset, tutkijat osoittavat, viittaavat siihen, että kauneusfiltterit voivat auttaa muokkauksia välttämään havaitsemisen syväväärennöksiä tehokkaammin, ja herättävät vakavia turvallisuusuhatuksia.

Osittaiset esimerkit (tilan puutteen vuoksi) siitä, miten vähäinen kauneuttuminen (3 %:n sileityssäde) muutti AlexNetin luokittelua. Vasemmalla aito kuva luokitellaan hyökkäykseksi filtteröinnin jälkeen, ja oikealla muokattu kuva luokitellaan aidoiksi filtteröinnin jälkeen.

Lopulta tutkijat totesivat, että jopa lievät kauneusfiltterit voivat heikentää merkittävästi syväväärennösten ja muokkaushyökkäysten havaitsemisen suorituskykyä.

Vaikutus vaihteli arkkitehtuurikohtaisesti, AlexNetin näyttäessä asteittaista laskua ja VGG19:n romahdusta vähäisessä suodatussa. Koska nämä filtterit ovat yleisiä ja eivät välttämättä ole pahantahtoisia, heidän kykynsä piilottaa hyökkäykset muodostaa, tutkijoiden mukaan, käytännön uhan, erityisesti biometrisissä järjestelmissä. Tutkimus korostaa tarvetta kehittää havaintomalleja, jotka ovat kestäviä tällaisille hienoisille kuvamanipulaatioille.

Johtopäätös

Yksi syy, miksi on vaikea kouluttaa syväväärennösten havaitsemisjärjestelmiä, jotka voivat ohittaa kauneusfiltterit, on kontrastimateriaalin puute; lopulta “kauneutettu” versio on se, joka leviää laajasti, ja toisin kuin edellä upotettu video, joka osoittaa esimerkin, on hyvin harvinaista, että “ennen” -kuva sovelletaan.

Toinen este on, että monet filtterit suorittavat samanlaisen sileittämisen, joka on tyypillinen kuvien tai videoiden tallentamisessa tai pakkaamisessa (josta on hyötyä tarjoajien kaistanleveydelle, ja se on myös digitaalinen ihonparannus niille, jotka käyttävät filtteriä).

Syväväärennösten havaitsemisen tutkimusala on jo vahvasti mukana taistelussa todellisen maailman kuvien heikentymistä vastaan, joka johtuu ongelmista, kuten huonoja kameranlaatua, liiallista pakkausta tai epävakaita verkkoyhteyksiä – kaikki nämä ovat suoraan hyödyllisiä syväväärennösten petkuttajille, jotka joutuvat työskentelemään paljon kovemmin korkealaatuisissa, korkearesoluutioisissa skenaarioissa.

Onko kauneusfiltterit lopulta uhka turvallisuudelle, vaikuttaa todennäköisesti siihen, missä määrin ne osoittautuvat esteeksi syväväärennösten seulontamenetelmille, tai muodostavat jonkinlaisen de facto -palomuurin, joka hyödyttää enemmän pahantahtoisia kuin niitä, jotka taistelevat heitä vastaan.

Julkaistu ensimmäisen kerran keskiviikkona, 24. syyskuuta 2025