Experten säger att “perfekt verkliga” DeepFakes kommer att finnas tillgängliga om 6 månader

De imponerande men kontroversiella DeepFakes, bilder och videor som manipuleras eller genereras av djupa neurala nätverk, kommer troligen att bli både mer imponerande och mer kontroversiella i närmaste framtiden, enligt Hao Li, chef för Vision and Graphics Lab vid University of Southern California. Li är en expert på datorseende och DeepFakes, och i en nylig intervju med CNBC sa han att “perfekt verkliga” Deepfakes kommer att anlända inom sex månader.

Li förklarade att de flesta DeepFakes fortfarande är igenkännliga som falska för det mänskliga ögat, och även de mer övertygande DeepFakes kräver betydande ansträngningar från skaparens sida för att de ska verka realistiska. Men Li är övertygad om att inom sex månader kommer DeepFakes som verkar perfekt verkliga att dyka upp när algoritmerna blir mer avancerade.

Li trodde initialt att det skulle ta mellan två till tre år för extremt övertygande DeepFakes att bli mer allmänt förekommande, vilket han förutspådde vid en nylig konferens som hölls vid Massachusetts Institute of Technology. Men Li reviderade sin tidslinje efter avslöjandet av den kinesiska appen Zao och andra nyliga utvecklingar rörande DeepFakes-teknologi. Li berättade för CNBC att metoderna för att skapa realistiska DeepFakes i princip är desamma som används för närvarande, och att den viktigaste faktorn som kommer att skapa realistiska DeepFakes är mer träningsdata.

Li och hans medforskare har arbetat hårt med DeepFake-detektionsteknologi, i förväntan på ankomsten av extremt övertygande DeepFakes. Li och hans kollegor, som Hany Farid från University of California, Berkeley, experimenterade med state-of-the-art DeepFake-algoritmer för att förstå hur tekniken som skapar dem fungerar.

Li förklarade för CNBC:

“Om du vill kunna upptäcka Deepfakes, måste du också se vilka begränsningarna är. Om du behöver bygga AI-ramverk som kan upptäcka saker som är extremt verkliga, måste de tränas med hjälp av den här typen av teknologi, så på något sätt är det omöjligt att upptäcka dem om du inte vet hur de fungerar.”

Li och hans kollegor är engagerade i att skapa verktyg för att upptäcka DeepFakes, i erkännande av de potentiella problemen och farorna som tekniken utgör. Li och kollegor är långt ifrån den enda gruppen av AI-forskare som är oroliga för de möjliga effekterna av DeepFakes och intresserade av att skapa motåtgärder.

Nyligen inledde Facebook (META ) ett samarbete med MIT, Microsoft (MSFT ) och University of Oxford för att skapa DeepFake Detection Challenge, som syftar till att skapa verktyg som kan användas för att upptäcka när bilder eller videor har manipulerats. Dessa verktyg kommer att vara öppen källkod och kan användas av företag, medieorganisationer och regeringar. Samtidigt har forskare från University of Southern Californias Information Sciences Institute nyligen skapat en serie algoritmer som kan skilja på falska videor med cirka 96 procents noggrannhet.

Men Li förklarade också att problemet med DeepFakes är det sätt de kan missbrukas, och inte tekniken i sig. Li nämnde flera legitima möjliga användningsområden för DeepFake-teknologi, inklusive inom underhållnings- och modeindustrin.

DeepFake-tekniker har också använts för att replikera ansiktsuttryck hos personer med ansikten som är dolda i bilder. Forskare använde Generative Adversarial Networks för att skapa ett helt nytt ansikte som hade samma uttryck som en person i en ursprunglig bild. Teknikerna som utvecklats av Norges teknisk-naturvitenskapelige universitet kan hjälpa till att återge ansiktsuttryck under intervjuer med känsliga personer som behöver sekretess, såsom visselblåsare. Någon annan kunde låta sitt ansikte användas som en stand-in för den person som behöver anonymitet, men den personens ansiktsuttryck kunde fortfarande läsas.

Såsom DeepFake-teknologins avanceringsgrad ökar, kommer de legitima användningsområdena för DeepFakes att öka också. Men faran kommer också att öka, och av den anledningen blir arbetet med att upptäcka DeepFakes som utförs av Li och andra allt viktigare.