Asiantuntija: “Täysin aidot” DeepFakes ovat täällä 6 kuukauden kuluttua

Vaikuttavat, mutta kiistellyt DeepFakes, eli kuvat ja videot, jotka on muokattu tai luotu syvien neuroverkkorakenteiden avulla, ovat todennäköisesti sekä vaikuttavampia että kiistellympiä lähitulevaisuudessa, sanoo Hao Li, Etelä-Kalifornian yliopiston Vision and Graphics Lab -laboratorion johtaja. Li on tietokonegrafiikan ja DeepFakes -asiantuntija, ja haastattelussa CNBC:lle hän sanoi, että “täysin aidot” Deepfakes ovat todennäköisesti saapuvia puolen vuoden kuluessa.

Li selitti, että useimmat DeepFakes ovat edelleen tunnistettavissa väärennöksiksi silminnäkijän silmissä, ja jopa vakuuttavammat DeepFakes vaativat edelleen merkittävää ponnistelua luojansa puolesta, jotta ne näyttäisivät realistisilta. Li on kuitenkin vakuuttunut siitä, että kuuden kuukauden kuluessa DeepFakes, jotka näyttävät täysin aidoilta, ovat todennäköisesti ilmestyvä, kun algoritmit kehittyvät monimutkaisemmiksi.

Li oli aluksi sitä mieltä, että erittäin vakuuttavien DeepFakesin yleistyminen kestäisi kaksi tai kolme vuotta, ja hän teki tämän ennusteen äskettäin Massachusettsin teknillisen korkeakoulun isännöimässä konferenssissa. Li kuitenkin muutti aikajanaa, kun Kiinan Zao-sovellus ja muut viimeaikaiset DeepFakes-tekniikan kehityssuunnat paljastuivat. Li selitti CNBC:lle, että realististen DeepFakesin luomiseen tarvittavat menetelmät ovat suurimmaksi osaksi jo käytössä, ja että pääasiallinen ainesosa, joka luo realistiset DeepFakes, on enemmän koulutusdataa.

Li ja hänen tutkijakollegansa ovat työskennelleet ahkerasti DeepFake-havaitsemisen parissa, odottaen erittäin vakuuttavien DeepFakesin saapumista. Li ja hänen kollegansa, kuten Hany Farid Kalifornian yliopistosta Berkeleyssä, kokeilivat viimeisimpiä DeepFake-algoritmeja, jotta he voisivat ymmärtää, miten teknologia, joka luo ne, toimii.

Li selitti CNBC:lle:

“Jos haluat pystyä havaitsemaan deepfakeseja, sinun on myös nähtävä, mitkä ovat rajoitukset. Jos tarvitset rakentaa A.I.-kehyksiä, jotka pystyvät havaitsemaan asioita, jotka ovat erittäin realistisia, niiden on opittava käyttämään näitä teknologioita, joten jollain tavoin on mahdotonta havaita niitä, jos et tiedä, miten ne toimivat.”

Li ja hänen kollegansa ovat panostaneet työkalujen luomiseen DeepFakesin havaitsemiseksi, tunnustaen teknologian mahdollisia ongelmia ja vaaroja. Li ja hänen kollegansa eivät kuitenkaan ole ainoita AI-tutkijoita, jotka ovat huolissaan DeepFakesin mahdollisista vaikutuksista ja kiinnostuneita luomaan vastatoimia niille.

Äskettäin Facebook (META ) aloitti yhteistyön MIT:n, Microsoftin ja Oxfordin yliopiston kanssa DeepFake-havaitsemisen haasteen luomiseksi, jonka tavoitteena on luoda työkaluja, joita voidaan käyttää mukaan, kun kuvia tai videoita on muokattu. Nämä työkalut ovat avoimia ja niitä voidaan käyttää yrityksissä, mediaorganisaatioissa ja hallituksissa. Sillä välin Etelä-Kalifornian yliopiston Information Sciences Institute -instituutin tutkijat loivat äskettäin sarjan algoritmeja, jotka voivat erottaa väärennetyt videot noin 96 prosentin tarkkuudella.

Li selitti kuitenkin myös, että DeepFakesin ongelma on siinä, miten niitä voidaan väärinkäyttää, eikä itse teknologiassa. Li mainitsi useita legitimejä mahdollisia käyttötapauksia DeepFake-tekniikalle, kuten viihteessä ja muodissa.

DeepFake-tekniikkaa on myös käytetty jäljittelemään ihmisten kasvojen ilmeitä kuvissa, joiden kasvot on peitetty. Tutkijat käyttivät generatiivisia vastakkainverkkoja luomaan kokonaan uuden kasvon, jolla oli sama ilme kuin alkuperäisessä kuvassa. Norjan tiede- ja teknologia-yliopistossa kehitettyjä menetelmiä voidaan käyttää paljastamaan kasvojen ilmeitä haastatteluissa herkkien henkilöiden kanssa, kuten vihjepuhujien kanssa. Joku toinen voi antaa kasvonsa edustamaan henkilöä, joka tarvitsee anonyymiyttä, mutta henkilön kasvojen ilmeet voidaan edelleen lukea.

Kun DeepFake-tekniikan monimutkaisuus lisääntyy, DeepFakesin legitimejä käyttötapauksia lisääntyy myös. Vaara kuitenkin lisääntyy, ja tästä syystä Li ja muiden tekemä työ DeepFakesin havaitsemisessa tulee entistä tärkeämmäksi.