Mitä ovat Deepfakes?

Koska deepfake-videot ovat helpompia tehdä ja niitä on enemmän, niistä kiinnitetään enemmän huomiota. Deepfake-videot ovat keskipisteenä keskusteluissa, jotka liittyvät tekoälyetiikkaan, virheelliseen tietoon, tietojen avoimuuteen ja internetiin sekä sääntelyyn. On hyvä olla perillä deepfake-videoiden suhteen ja ymmärtää, mitä ne ovat. Tässä artikkelissa selitetään, mitä deepfake-videot ovat, tarkastellaan niiden käyttötarkoituksia, keskustellaan siitä, miten deepfake-videot voidaan havaita, ja tarkastellaan deepfake-videoiden vaikutuksia yhteiskuntaan.

Mitä ovat Deepfakes?

Ennen kuin jatkamme deepfake-videoiden käsittelemistä, on hyvä ottaa hetki ja selventää, mitä ”deepfake” oikeasti on. On paljon sekaannusta deepfake-termin ympärillä, ja usein termiä käytetään väärin mihin tahansa väärennettyyn mediaan, riippumatta siitä, onko se aito deepfake. Jotta media voisi olla deepfake, väärennetty media on täytynyt luoda koneoppimisjärjestelmällä, erityisesti syvällä neuroverkkorakenteella.

Deepfake-videoiden avainaines on koneoppiminen. Koneoppiminen on mahdollistanut tietokoneiden automaattisen videon ja äänen tuottamisen suhteellisen nopeasti ja helposti. Syvät neuroverkkorakenteet koulutetaan todellisen henkilön kuvamateriaalilla, jotta verkkorakenne voisi oppia, miten ihmiset näyttävät ja liikkuvat kohdeympäristössä. Koulutettu verkkorakenne käytetään toisen henkilön kuvamateriaalilla ja yhdistetään tietokonegrafiikkaa, jotta uusi henkilö voidaan yhdistää alkuperäiseen materiaaliin. Enkooderi-algoritmi käytetään alkuperäisen kasvon ja kohdekuvan välisen yhtäläisyyden määrittämiseen. Kun kasvojen yhteiset piirteet on eristetty, toinen tekoälyalgoritmi, jota kutsutaan dekooderiksi, käytetään. Dekooderi tarkastelee enkoodattuja (pakattuja) kuvia ja rakentaa ne uudelleen alkuperäisten kuvien piirteiden perusteella. Kaksi dekooderia käytetään, yksi alkuperäisen kohteen kasvoille ja toinen kohdehenkilön kasvoille. Jotta vaihto voidaan tehdä, dekooderi, joka on koulutettu henkilön X kuvamateriaalilla, syötetään henkilön Y kuvamateriaalille. Tuloksena on, että henkilön Y kasvojen uudelleenrakentaminen henkilön X kasvojen ilmeiden ja suunnan mukaan.

Tällä hetkellä deepfake-videon tekemiseen kuluu vielä suhteellisen paljon aikaa. Väärennetyn materiaalin luoja joutuu viettämään paljon aikaa manuaalisesti säätämällä mallin parametreja, sillä aliparametriset parametrit johtavat havaittaviin virheisiin ja kuvavirheisiin, jotka paljastavat väärennyksen todellisen luonteen.

Vaikka usein oletetaan, että useimmat deepfake-videot tehdään generatiivisella vastakkaisella neuroverkkorakenteella (GAN), monet (ehkä useimmat) nykyään luodut deepfake-videot eivät käytä GAN:eja. Vaikka GAN:t olivat merkittävässä roolissa varhaisissa deepfake-videoiden luomisessa, useimmat deepfake-videot luodaan vaihtoehtoisilla menetelmillä, kuten Siwei Lyu SUNY Buffalosta on todennut.

GAN:iin kouluttamiseen vaaditaan epäsuhtaisesti paljon koulutusdataa, ja GAN:t vaativat usein pidemmän ajan kuvan renderöintiin verrattuna muihin kuvien luomismenetelmiin. GAN:t ovat myös parempia staattisten kuvien luomiseen kuin videoihin, sillä GAN:it ovat vaikeampia yhdenmukaisuuden ylläpitämisessä kehyskohtaisesti. On paljon yleisempää käyttää enkooderia ja useita dekoodereita deepfake-videoiden luomiseen.

Mitä varten Deepfakes käytetään?

Monet internetissä olevista deepfake-videosta ovat pornografisia. Deeptrace-nimisen tekoälyyrityksen tekemän tutkimuksen mukaan noin 15 000 deepfake-videosta, jotka otettiin syyskuussa 2019, noin 95 % oli pornografisia. Tämän faktan huolestuttava seuraus on, että kun teknologiaa on helpompi käyttää, väärän kostopornografian tapaukset voivat lisääntyä.

Kuitenkaan kaikki deepfake-videot eivät ole pornografisia. On olemassa myös laillisia käyttötarkoituksia deepfake-teknologialle. Ääni-deepfake-teknologia voisi auttaa ihmisiä lähettämään ääniään normaalisti sairauden tai vamman jälkeen. Deepfake-videot voivat myös käytetään piilottamaan ihmisten kasvoja, jotka ovat arkaluontoisissa, vaarallisissa tilanteissa, samalla kun heidän huulensa ja ilmeensä voidaan lukea. Deepfake-teknologiaa voidaan myös käyttää parantamaan vieraiden kielten elokuvien dubbausta, korjata vanhaa ja vahingoittunutta mediaa ja luoda uusia taidetyylejä.

Ei-videodeepfakes

Vaikka useimmat ihmiset ajattelevat väärennettyjä videoita, kun he kuulevat termin ”deepfake”, väärennettyjä videoita ei ole ainoa deepfake-median tyyppi. Deepfake-teknologiaa käytetään myös väärennettyjen valokuvien ja äänen luomiseen. Kuten aiemmin mainittiin, GAN:eja käytetään usein väärennettyjen kuvien luomiseen. On arveltu, että on ollut monia tapauksia, joissa väärennettyjä LinkedIn- ja Facebook-profiileja on luotu deepfake-algoritmeja käyttäen.

On myös mahdollista luoda ääni-deepfake-videota. Syvät neuroverkkorakenteet koulutetaan tuottamaan eri ihmisten ääniä, mukaan lukien julkisuuden henkilöiden äänet. Yksi kuuluisa esimerkki ääni-deepfake-videosta on, kun tekoälyyritys Dessa käytti tekoälymallia, jota tukevat ei-tekoälyalgoritmit, Joe Roganin äänen uudelleenluomiseen.

Miten deepfake-videota voidaan havaita?

Kun deepfake-videot kehittyvät yhä enemmän, niiden erottaminen aidoista medioista tulee olemaan yhä vaikeampaa. Tällä hetkellä on joitakin merkkejä, joita ihmiset voivat etsiä, jotta voivat määrittää, onko video mahdollisesti deepfake, kuten huono huulienkynnykkäys, epäluonnollinen liike, vilkkuvat reunat kasvojen reunalla ja yksityiskohtien vääristyminen, kuten hiuksia, hampaita tai heijastuksia. Muita deepfake-videon merkkejä voivat olla saman videon huonommat osat ja epäsäännöllinen silmien vilkunta.

Vaikka nämä merkit saattavat auttaa havaitsemaan deepfake-videon tällä hetkellä, deepfake-teknologian parantuessa ainoa luotettava tapa havaita deepfake-videot saattaa olla toisten tekoälymenetelmien kehittäminen, jotka voivat erottaa väärennettyjä medioita aidoista medioista.

Tekoälyyritykset, mukaan lukien useat suuret teknologiayritykset, tutkivat deepfake-videoiden havaitsemismenetelmiä. Viime joulukuussa deepfake-havainnont haaste aloitettiin, jota tukivat kolme teknologiayritystä: Amazon, Facebook ja Microsoft. Tutkimusryhmät ympäri maailmaa työskentelivät deepfake-videoiden havaitsemismenetelmien kehittämisessä, kilpaillen parhaiden havainnontamenetelmien kehittämisestä. Muita tutkijaryhmiä, kuten Googlelta ja Jigsaw’lta, työskentelevät ”kasvojen oikeudellisissa tutkimuksissa”, jotka voivat havaita muokatut videot, julkaisemalla avoimia tietoja ja rohkaisemalla muita kehittämään deepfake-havainnontamenetelmiä. Mainittu Dessa on työskennellyt deepfake-havainnontamenetelmien parantamisessa, pyrkien varmistamaan, että havainnontamallit toimivat deepfake-videoiden kanssa, jotka ovat internetissä, eikä ainoastaan esivalmistelluissa koulutus- ja testausjoukoissa, kuten Google tarjoaa avoimia tietoja.

On myös muita strategioita, jotka tutkitaan deepfake-videoiden leviämisen torjumiseksi. Esimerkiksi videoiden tarkistaminen muiden tietolähteiden kanssa on yksi strategia. Haetaan videoita tapahtumista, jotka on otettu muista kulmista, tai taustatietojen (kuten sääolosuhteiden ja sijaintien) tarkistaminen epäjohdonmukaisuuksien varalta. Lisäksi lokalistinen online- kirjanpitojärjestelmä voi rekisteröidä videot, kun ne luodaan alun perin, ja tallentaa alkuperäisen äänen ja kuvan, jotta johdannaisvideot voidaan aina tarkistaa manipuloinnin varalta.

Lopulta on tärkeää, että luotettavia menetelmiä median aitoutta määrittämiseksi kehitetään ja ylläpidetään. Vaikka on vaikea tietää, mitkä deepfake-videoiden vaikutukset ovat, jos ei ole luotettavia menetelmiä deepfake-videoiden (ja muiden väärennettyjen median) havaitsemiseksi, virheellinen tieto voi leviä ja vahingoittaa ihmisten luottamusta yhteiskuntaan ja instituutioihin.

Deepfake-videoiden vaikutukset

Mitkä ovat deepfake-videoiden vaarat, jos niitä sallitaan leviäminen?

Yksi suurimmista ongelmista, jonka deepfake-videot aiheuttavat tällä hetkellä, on suostumukseton pornografia, joka on tehty yhdistämällä ihmisten kasvoja pornovideoihin ja -kuvien. Tekoälyeetiikat ovat huolissaan siitä, että deepfake-videot tulevat olemaan yhä enemmän käytössä väärennetyn kostopornografian luomisessa. Lisäksi deepfake-videot voivat käytetään kiusaamiseen ja ketjun maineen vahingoittamiseen, sillä niitä voidaan käyttää sijoittamiseen kiistanalaisiin ja kompromettaviin tilanteisiin.

Yritykset ja tietoturva-asiantuntijat ovat ilmaisseet huolensa deepfake-videoiden käytöstä huijauksiin, petoksiin ja kiristykseen. Väitetysti deepfake-ääntä on käytetty saadakseen yrityksen työntekijät siirtämään rahaa huijareille

On mahdollista, että deepfake-videot voivat aiheuttaa haittoja myös muilla tavoin. Deepfake-videot voivat vahingoittaa ihmisten luottamusta mediaan yleensä ja tehdä vaikeaksi erottaa aito uutinen väärennetystä. Jos monet videot internetissä ovat väärennettyjä, on helpompi hallituksille, yrityksille ja muiden tahojen epäillä legitiimejä kiistoja ja epäeettisiä käytäntöjä.

Kun on kyse hallituksista, deepfake-videot voivat jopa uhata demokratian toimintaa. Demokratia edellyttää, että kansalaiset voivat tehdä perusteltuja päätöksiä poliitikoista luotettavan tiedon perusteella. Virheellinen tieto heikentää demokraattisia prosesseja. Esimerkiksi Gabonin presidentti Ali Bongo esiintyi videossa, jossa hän yritti rauhoitella Gabonin kansalaisia. Presidentti oletettiin olevan sairaana pitkään, ja hänen yllättävä esiintymisensä mahdollisesti väärennettyssä videossa käynnisti vallankaappausyrityksen. Presidentti Donald Trump väitti, että ääninauha, jossa hän kehuskeli naisista, oli väärennetty, vaikka hän myös kuvasi sitä ”pukuhuoneen jutuksi”. Prinssi Andrew väitti, että kuva, jonka Emily Maitilis’n asianajaja esitti, oli väärennetty, vaikka asianajaja vakuutti sen aitoutta.

Lopulta, vaikka on olemassa laillisia käyttötarkoituksia deepfake-teknologialle, on monia potentiaalisia haittoja, jotka voivat aiheutua teknologian väärinkäytöstä. Siksi on erittäin tärkeää, että kehitetään ja ylläpidetään menetelmiä median aitoutta määrittämiseksi. Vaikka on vaikea tietää, mitkä deepfake-videoiden vaikutukset ovat, jos ei ole luotettavia menetelmiä deepfake-videoiden (ja muiden väärennettyjen median) havaitsemiseksi, virheellinen tieto voi leviä ja vahingoittaa ihmisten luottamusta yhteiskuntaan ja instituutioihin.