Andersonin kulma

Deepfake-tunnistuksen kehitys: latentin diffuusion mallit ja GAN-verkot

Martin Anderson
Lisää Unite.AI suosikkilähteisiisi Google-palvelussa
Keskeiset kohdatDeepfake-tunnistustutkimus siirtää painopistettä latentteihin diffuusiomalleihin, kuten…
Näytä lisää
  • Deepfake-tunnistustutkimus siirtää painopistettä latentteihin diffuusiomalleihin, kuten Stable Diffusion ja DALL-E 2.
  • Blade Runner tarjoaa plug-and-play GAN-tunnistimen, joka käyttää kasvojen maamerkkikuvioita vähäresurssisille organisaatioille.
  • DE-FAKE pyrkii havaitsemaan ja jäljittämään yleisesti kuvia teksti-kuva-diffuusiomalleista käyttäen CLIP-upotuksia.

Mielipide Viime aikoina deepfake-tunnistuksen tutkimusyhteisö, joka on vuoden 2017 lopulta lähtien ollut lähes yksinomaan autoencoder-pohjaisen kehyksen parissa, joka esiteltiin tuolloin yleisön hämmästykseksi (ja järkytykseksi), on alkanut osoittaa forensista kiinnostusta vähemmän paikalleen jämähtäneisiin arkkitehtuureihin, mukaan lukien latentti-diffuusiomallit, kuten DALL-E 2 ja Stable Diffusion, sekä generatiivisten kilpailevien verkkojen (GAN) tuotokset. Esimerkiksi kesäkuussa UC Berkeley julkaisi tutkimustuloksiaan DALL-E 2:n tuottamien kuvien tunnistusjärjestelmästä.

Mikä näyttää olevan tämän kasvavan kiinnostuksen taustalla, on latentti-diffuusiomallien kykyjen ja saatavuuden äkillinen kehitysaskel vuonna 2022, DALL-E 2:n suljetun lähdekoodin ja rajoitetun käytön julkaisun keväällä, ja Stable Diffusionin avoin lähdekoodi myöhemmin kesällä.

GAN-verkkoja on myös pitkään tutkittu tässä asiayhteydessä, vaikka vähemmän intensiivisesti, koska on erittäin vaikea käyttää niitä vakuuttavien ja monimutkaisten videopohjaisten henkilöhahmojen luomiseen; ainakin, verrattuna vanhoihin autoencoder-paketteihin, kuten FaceSwap ja DeepFaceLab – ja jälkimmäisen suoratoistoon tarkoitettuun sukulaiseen, DeepFaceLive.

Liikkuvat kuvat

Molemmissa tapauksissa vaikuttava tekijä näyttää olevan mahdollisuus videosynteesin seuraavalle kehityspyrähdykselle. Lokakuun alkua – ja vuoden 2022 tärkeää konferenssikautta – leimasi äkillisten ja odottamattomien ratkaisujen vyöry perinteisiin videon synteesin ongelmiin: Facebook julkaisi oman teksti-videopohjaisen alustansa näytteitä, ja Google Research peitti nopeasti alkuperäisen huomion alleen julkistamalla uuden Imagen-to-Video T2V-arkkitehtuurin, joka pystyy tuottamaan korkearesoluutioista videokuvaa (vaikka vain seitsemän skaalausverkon kerroksen avulla).

Jos uskot, että tämänlainen asia tulee kolmena, huomaa myös stability.ai:n arvoituksellinen lupaus, että “video on tulossa” Stable Diffusioniin, ilmeisesti myöhemmin tänä vuonna, kun taas Stable Diffusionin kehittäjä Runway on antanut samanlaisen lupauksen, vaikka ei ole selvää, viittaavatko he samaan järjestelmään. Stabilityn toimitusjohtaja Emad Mostaquen Discord-viestissä luvattiin myös ‘ääntä, videota [ja] 3D:ta’.

Kun lisäksi yllättäen on julkaistu useita uusia äänen tuottamiseen tarkoitettuja kehyksiä (joista osa perustuu latenttiin diffuusioon) sekä uusi diffuusiomalli, joka pystyy tuottamaan aitoa hahmojen liikettä, ajatus siitä, että “staattiset” kehykset, kuten GAN:t ja diffuusorit, lopulta ottavat paikkansa ulkoisten animaatiokehyksien tukirakenteina, on alkanut saada todellista vauhtia.

Lyhyesti sanottuna, näyttää siltä, että autoencoder-pohjaisen videon deepfake-maailma, joka voi vain korvata kasvojen keskiosan, voisi ensi vuonna tähän aikaan olla korvattu uuden sukupolven diffuusiopohjaisilla deepfake-kykyisillä teknologioilla – suosituilla, avoimilla lähestymistavoilla, joilla on potentiaali väärentää fotorealistisia kuvia, ei vain kokonaisia kehoja, vaan koko kohtauksia.

Tästä syystä, ehkä, anti-deepfake-tutkimusyhteisö on alkanut ottaa kuvan synteesin tosissaan ja ymmärtää, että se voi palvella muita tarkoituksia kuin vain väärennettyjen LinkedIn-profiilikuvien luomista; ja että jos niiden hankalat latenttiavaruudet pystyvät ajallisen liikkeen osalta vain toimimaan erinomaisena tekstuurirenderöijänä, mikä voi olla tarpeeksi.

Blade Runner

Viimeisimmät kaksi tutkimusta, jotka käsittelevät latentti-diffuusiota ja GAN-pohjaista deepfake-havainnointia, ovat DE-FAKE: Väärän kuvan havainnointi ja attribuutio teksti-kuvadiffuusiomalleilla, yhteistyö CISPA Helmholtz Center for Information Securityn ja Salesforcen (CRM ) välillä; ja BLADERUNNER: Nopea vastatoimi synteettisille (AI-luoduille) StyleGAN-kasvoille, Adam Dorian Wongin työ MIT:n Lincoln Laboratoryssa.

Ennen uuden menetelmän esittelyä jälkimmäinen tutkimus tarkastelee aiempia tapoja selvittää, onko kuva GAN-verkon tuottama. Tutkimus käsittelee erityisesti NVIDIAn StyleGAN-perhettä.

“Brady Bunch” -menetelmä – ehkä merkityksetön viittaus kenellekään, joka ei ollut katsomassa TV:tä 1970-luvulla tai joka ei nähnyt 1990-luvun elokuva-sovituksia – tunnistaa GAN-väärennetyn sisällön kiinteiden osien sijainnin perusteella, joita GAN-kasvojen “tuotantoprosessi” käyttää.

Brady Bunch -menetelmä, joka esiteltiin SANS-instituutin webcastissa vuonna 2022: GAN-pohjainen kasvogeneraattori sijoittaa tietyt kasvonpiirteet epäilyttävän yhdenmukaisiin kohtiin, paljastaen valokuvan alkuperän tietyissä tapauksissa. Lähde: https://arxiv.org/ftp/arxiv/papers/2210/2210.06587.pdf

Brady Bunch -menetelmä, joka esiteltiin SANS-instituutin webcastissa vuonna 2022: GAN-pohjainen kasvogeneraattori sijoittaa tietyt kasvonpiirteet epäilyttävän yhdenmukaisiin kohtiin, paljastaen valokuvan alkuperän tietyissä tapauksissa. Lähde: https://arxiv.org/ftp/arxiv/papers/2210/2210.06587.pdf

Toinen hyödyllinen tunnusmerkki on StyleGANin toistuva kyvyttömyys renderöidä useita kasvoja (ensimmäinen kuva alla), sekä sen heikko kyky sovittaa asusteita yhteen (keskimmäinen kuva alla), ja taipumus käyttää hiustenrajaa hatun alkuna (kolmas kuva alla).

Kolmas menetelmä, johon tutkija kiinnittää huomiota, on valokuvien päällekkäisasettelu (esimerkki siitä on meidän elokuun artikkelissa AI-avusteisesta mielenterveyden häiriöiden diagnosoinnista), joka käyttää kompositorista “kuva-yhdistämisen” ohjelmistoa, kuten CombineZ-sarjaa, yhdistämään useita kuvia yhdeksi kuvaksi, usein paljastaen kuvien rakenteen yhteisiä piirteitä – potentiaalinen merkki synteesistä.

Uusi tutkimus ehdottaa arkkitehtuuria, joka on nimetty (ehkä vastoin kaikkia SEO-neuvoja) Blade Runner, viitaten Voight-Kampff-testiin, joka määrittää, ovatko tieteiselokuvasarjan vastustajat “väärennettyjä” vai ei.

Putki koostuu kahdesta vaiheesta, joista ensimmäinen on PapersPlease-analysaattori, joka voi arvioida tietoja, jotka on poimittu tunnetuista GAN-kasvo-sivustoista, kuten thispersondoesnotexist.com tai generated.photos.

Vaikka lyhennetty koodiversio voidaan tarkastella GitHubissa (ks. alla), vähän yksityiskohtia on annettu tästä moduulista, paitsi että OpenCV ja DLIB käytetään kasvojen piirteiden määrittämiseen ja havainnointiin kerätyssä aineistossa.

Toinen moduuli on AmongUs -havainnontaja. Järjestelmä on suunniteltu etsimään koordinoitua silmien sijoittelua valokuvissa, joka on yleinen piirre StyleGANin kasvontuotoksessa, tyypillinen “Brady Bunch” -skenaariossa, josta on mainittu yllä. AmongUs perustuu tavanomaiseen 68 kasvojen maamerkin tunnistimeen.

Kasvon piirteiden merkinnät Intelligent Behaviour Understanding Groupin (IBUG) avulla, jonka kasvon piirteiden piirroskoodi on käytössä Blade Runner -paketissa.

Kasvon piirteiden merkinnät Intelligent Behaviour Understanding Groupin (IBUG) avulla, jonka kasvon piirteiden piirroskoodi on käytössä Blade Runner -paketissa.

AmongUs käyttää esikoulutettuja maamerkkejä, jotka perustuvat PapersPleasen tunnettuihin Brady Bunch -koordinaatteihin. Se on tarkoitettu verkossa saatavilla olevien StyleGAN-kasvokuvien tunnistamiseen.

Blade Runner on, kirjoittajan mukaan, helppokäyttöinen ratkaisu, joka on tarkoitettu yrityksille tai organisaatioille, joilla ei ole resursseja kehittää omia ratkaisuja deepfake-havainnoinnin kaltaisiin; ja “väliaikainen ratkaisu ostaa aikaa pysyvemmille vastatoimille”.

Todellisuudessa, turvallisuussektorissa, joka on näin volatiilinen ja nopeasti kehittyvä, ei ole monia mukautettuja tai valmiita pilvipalveluratkaisuja, joihin vähäresurssinen yritys voisi turvautua luottavaisesti.

Vaikka Blade Runner suoriutuu heikosti silmälasien kanssa StyleGAN-väärennettyjen kasvojen kanssa, tämä on suhteellisen yleinen ongelma vastaavissa järjestelmissä, jotka odottavat silmien ääriviivojen arviointia keskeisinä viitekohtina, mutta silmälasit peittävät ne näissä tapauksissa.

Blade Runnerin suppeampi versio on julkaistu avoimena lähdekoodina GitHubissa. Lisäksi on olemassa suljetun lähdekoodin monipuolisempi versio, joka voi käsitellä useita kuvia kerrallaan, toisin kuin avoimen lähdekoodin versio, joka käsittelee vain yhden kuvan kerrallaan. Kirjoittaja aikoo, hän sanoo, päivittää GitHubin version samaan tasoon, kun aika sallii. Hän myöntää myös, että StyleGAN todennäköisesti kehittyy nykyisistä heikkouksistaan, ja ohjelmiston on kehityttävä vastaavasti.

DE-FAKE

DE-FAKE-arkkitehtuuri on tarkoitettu saavuttamaan “yleiskäyttöinen tunnistus” teksti-kuvadiffuusiomalleilla tuotetuille kuville, ja tarjoamaan menetelmän määrittää, mikä latentti-diffuusiomalli (LD) tuotti kuvan.

DE-FAKEN yleiskäyttöinen tunnistuskehys käsittää paikallisia kuvia, hybridikehystä (vihreä) ja avoimia maailman kuvia (sininen). Lähde: http://export.arxiv.org/pdf/2210.06998

DE-FAKEN yleiskäyttöinen tunnistuskehys käsittää paikallisia kuvia, hybridikehystä (vihreä) ja avoimia maailman kuvia (sininen). Lähde: http://export.arxiv.org/pdf/2210.06998

Rehellisesti sanoen, tämä on tällä hetkellä melko helppo tehtävä, koska kaikki suositut LD-mallit – suljetut tai avoimet – sisältävät selvästi erottuvia ominaisuuksia.

Lisäksi useimmat jakavat yleisiä heikkouksia, kuten taipumuksen leikata pois päät, koska mielivaltaisella tavalla ei-neliönmuotoisia verkkokuvia syötetään massiivisiin tietokantoihin, joiden varassa toimivat järjestelmät kuten DALL-E 2, Stable Diffusion ja MidJourney:

Latentin diffuusion mallit tarvitsevat muiden konenäkömallien tavoin neliönmuotoisen syötteen. LAION5B-aineistoa kartuttava verkkoharavointi ei kuitenkaan sisällä kasvojen tai muiden kohteiden tunnistamisen ja niihin kohdistamisen kaltaisia lisätoimintoja. Sen sijaan kuvat rajataan varsin kovakouraisesti eikä niitä täydennetä reunuksilla, mikä säilyttäisi koko alkuperäiskuvan pienemmällä tarkkuudella. Kun malli oppii nämä rajaukset koulutuksessa, niistä tulee tavallisia ja niitä esiintyy usein esimerkiksi Stable Diffusionin tuottamissa kuvissa.

Latentin diffuusion mallit tarvitsevat muiden konenäkömallien tavoin neliönmuotoisen syötteen. LAION5B-aineistoa kartuttava verkkoharavointi ei kuitenkaan sisällä kasvojen tai muiden kohteiden tunnistamisen ja niihin kohdistamisen kaltaisia lisätoimintoja. Sen sijaan kuvat rajataan varsin kovakouraisesti eikä niitä täydennetä reunuksilla, mikä säilyttäisi koko alkuperäiskuvan pienemmällä tarkkuudella. Kun malli oppii nämä rajaukset koulutuksessa, niistä tulee tavallisia ja niitä esiintyy usein esimerkiksi Stable Diffusionin tuottamissa kuvissa. Lähteet: https://blog.novelai.net/novelai-improvements-on-stable-diffusion-e10d38db82ac and Stable Diffusion.

DE-FAKE on tarkoitettu olevan algoritmi-agnostinen, pitkään toivottu tavoite autoencoder-pohjaisille anti-deepfake-tutkijoille, ja tällä hetkellä se on melko saavutettavissa LD-järjestelmissä.

Arkkitehtuuri käyttää OpenAI:n Contrastive Language-Image Pretraining (CLIP) -monimodaalista kirjastoa – olennainen osa Stable Diffusionia ja nopeasti muodostuvaa uuden kuvan/videon synteesijärjestelmien ydintä – tapa poimia upotuksia “väärennetyistä” LD-kuvista ja kouluttaa luokittelija havaittujen mallien ja luokkien perusteella.

Enemmän “mustan laatikon” tilanteessa, jossa PNG-palaset, jotka sisältävät tietoa synteesiprosessista, on poistettu latausprosesseissa ja muista syistä, tutkijat käyttävät Salesforcen BLIP-kehystä (joka on myös osa vähintään yhtä Stable Diffusionin jakelua) päätelläkseen kuvista sokkona ne luoneiden kehotteiden todennäköisen semanttisen rakenteen.

Tutkijat käyttivät Stable Diffusionia, Latent Diffusionia (joka on erillinen tuote), GLIDE:a ja DALL-E 2:ta luomaan koulutus- ja testausaineistoa MSCOCO:n ja Flickr30k:n avulla.

Tutkijat käyttivät Stable Diffusionia, Latent Diffusionia (joka on erillinen tuote), GLIDE:a ja DALL-E 2:ta luomaan koulutus- ja testausaineistoa MSCOCO:n ja Flickr30k:n avulla.

Normaalisti ottaisimme laajan katsauksen tutkijoiden kokeiden tuloksiin uudesta kehyksestä; mutta totta puhuen, DE-FAKEN tulokset ovat todennäköisesti enemmän hyödyllisiä tulevien iterointien ja samankaltaisten projektien vertailukohtana, kuin merkittävänä mittarina projektin onnistumiselle, koska ympäristö, jossa se toimii, on niin volatiilinen, ja järjestelmä, jota vastaan sitä verrataan tutkimuksessa, on lähes kolme vuotta vanha – ajoilta, jolloin kuvan synteesin kenttä oli todella alkuvaiheessa.

Vasemmalla olevat kaksi kuvaa: aiempi kehys, joka on peräisin vuodelta 2019, suoriutuu odotetusti heikommin DE-FAKE:ta (oikealla olevat kaksi kuvaa) vastaan neljän LD-järjestelmän testauksessa.

Vasemmalla olevat kaksi kuvaa: aiempi kehys, joka on peräisin vuodelta 2019, suoriutuu odotetusti heikommin DE-FAKE:ta (oikealla olevat kaksi kuvaa) vastaan neljän LD-järjestelmän testauksessa.

Tutkijoiden tulokset ovat ylivoimaisesti myönteisiä kahdesta syystä: on vain vähän aiempaa työtä, johon voidaan verrata, ja mitään, joka tarjoaa reilun vertailun (ts. joka kattaa vain ne kaksitoista viikkoa siitä, kun Stable Diffusion julkaistiin avoimena lähdekoodina).

Toiseksi, kuten mainittiin aiemmin, vaikka LD-kuvan synteesin kenttä kehittyy eksponentiaalisesti, nykyisten tarjontien tuottama sisältö “merkkaa” itsensä rakenteellisilla (ja hyvin ennustettavissa olevilla) heikkouksilla ja erikoisuuksilla – monet niistä ovat todennäköisesti korjattavissa, ainakin Stable Diffusionin kohdalla, paremmin toimivan 1.5-tarkistuspisteen julkaisun myötä (ts. 4 gigatavun koulutettu malli, joka pyörittää järjestelmää).

Samalla Stability on jo ilmoittanut, että sillä on selkeä tiekartta järjestelmän V2- ja V3-versioille. Ottaen huomioon viime kuukausien merkittävät tapahtumat, mikä tahansa yritysten, kuten OpenAI:n, ja muiden kilpailevien toimijoiden, vitkastelu kuvan synteesin alalla on todennäköisesti haihtunut, mikä tarkoittaa, että voimme odottaa samanlaista nopeaa edistystä myös suljetun lähdekoodin kuvan synteesin alalla. Julkaistu ensimmäisen kerran 14. lokakuuta 2022.

Kirjoittaja koneoppimisen parissa, ihmisiä esittävien kuvien synteesin asiantuntija. Entinen tutkimussisällön johtaja Metaphysic.ai:ssa, kunnes se sulautui DNEG:n Brahma.ai:hin.
Verkkosivu: martinanderson.ai
Yhteystiedot: martin@martinanderson.ai