Ekspert sier at “perfekt reale” DeepFakes vil være her om 6 måneder

De imponerende, men kontroversielle DeepFakes, bilder og videoer manipulert eller generert av dypt neurale nettverk, vil sannsynligvis bli både mer imponerende og mer kontroversielle i nær fremtid, ifølge Hao Li, direktør for Vision and Graphics Lab ved University of Southern California. Li er en ekspert på datavisjon og DeepFakes, og i et nylig intervju med CNBC sa han at “perfekt reale” Deepfakes sannsynligvis vil ankomme innen halvannet år.

Li forklarte at de fleste DeepFakes fortsatt er gjenkjennelige som falske for det blotte øye, og selv de mer overbevisende DeepFakes krever betydelig innsats fra skaperen for å gjøre dem realistiske. Likevel er Li overbevist om at innen seks måneder vil DeepFakes som ser perfekt reale ut sannsynligvis dukke opp ettersom algoritmene blir mer avanserte.

Li mente opprinnelig at det ville ta mellom to til tre år for ekstremt overbevisende DeepFakes å bli mer vanlige, og gjorde denne prediksjonen på en nylig konferanse holdt ved Massachusetts Institute of Technology. Likevel revisjonerte Li sin tidsplan etter avsløringen av den nylige kinesiske appen Zao og andre nylige utviklinger relatert til DeepFakes-teknologi. Li forklarte til CNBC at metoden som trengs for å lage realistiske DeepFakes er mer eller mindre metoden som brukes i dag, og at hovedingrediensen som vil skape realistiske DeepFakes er mer treningdata.

Li og hans medforskere har arbeidet hardt på DeepFake-tekhnologi, i påvente av ankomsten av ekstremt overbevisende DeepFakes. Li og hans kolleger, som Hany Farid fra University of California Berkely, eksperimenterte med state-of-the-art DeepFake-algoritmer for å forstå hvordan teknologien som skaper dem fungerer.

Li forklarte til CNBC:

“Hvis du ønsker å kunne oppdage deepfakes, må du også se hva grensene er. Hvis du trenger å bygge A.I.-rammeverk som er i stand til å oppdage ting som er ekstremt reelle, må disse være trenet med denne type teknologi, så på noen måter er det umulig å oppdage dem hvis du ikke vet hvordan de fungerer.”

Li og hans kolleger er investert i å lage verktøy for å oppdage DeepFakes i erkjennelse av de potensielle problemene og farene som teknologien utgjør. Li og kolleger er langt ifra den eneste gruppen av AI-forskere som er bekymret for de mulige effektene av DeepFakes og interessert i å lage mottiltak mot dem.

Nylig startet Facebook (META ) et samarbeid med MIT, Microsoft (MSFT ) og University of Oxford for å lage DeepFake Detection Challenge, som har som mål å lage verktøy som kan brukes til å oppdage når bilder eller videoer har blitt endret. Disse verktøyene vil være åpne og kan brukes av selskaper, medieorganisasjoner og regjeringer. I mellomtiden har forskere fra University of Southern California’s Information Sciences Institute nylig laget en serie algoritmer som kan skille fakes videoer med omtrent 96% nøyaktighet.

Likevel forklarte Li også at problemet med DeepFakes er måten de kan misbrukes, og ikke teknologien i seg selv. Li noterte flere legitime mulige bruksområder for DeepFake-teknologi, inkludert i underholdnings- og moteindustrien.

DeepFake-teknikker har også blitt brukt til å replikere ansiktsuttrykkene til personer med ansiktene skjult i bilder. Forskere brukte Generative Adversarial Networks til å lage et helt nytt ansikt som hadde samme uttrykk som en person i et originalbilde. Teknikkene utviklet av Norges teknisk-naturvitenskapelige universitet kunne hjelpe med å gjengi ansiktsuttrykk under intervjuer med sensitive personer som trenger privatliv, som whistleblowere. En annen person kunne la sitt ansikt bli brukt som en stand-in for personen som trenger anonymitet, men personens ansiktsuttrykk kunne fortsatt leses.

Så lenge sofistikasjonen av Deepfake-teknologi øker, vil de legitime bruksområdene for Deepfakes også øke. Likevel vil faren også øke, og av denne grunn blir arbeidet med å oppdage DeepFakes gjort av Li og andre enda viktigere.