Eksperter siger, at “perfekt virkelige” DeepFakes vil være her om 6 måneder

De imponerende, men kontroversielle DeepFakes, billeder og videoer manipuleret eller genereret af dybe neurale netværk, vil sandsynligvis blive både mere imponerende og mere kontroversielle i den nærmeste fremtid, ifølge Hao Li, direktør for Vision and Graphics Lab på University of Southern California. Li er en ekspert i computer vision og DeepFakes, og i et nyt interview med CNBC sagde han, at “perfekt virkelige” Deepfakes sandsynligvis vil ankomme indenfor et halvt år.

Li forklarede, at de fleste DeepFakes stadig kan kendes som falske for det blotte øje, og selv de mere overbevisende DeepFakes kræver betydelig indsats fra skaberen for at gøre dem til at se realistiske ud. Dog er Li overbevist om, at indenfor seks måneder vil DeepFakes, der ser perfekt virkelige ud, sandsynligvis dukke op, da algoritmerne bliver mere avancerede.

Li mente oprindeligt, at det ville tage mellem to til tre år for ekstremt overbevisende DeepFakes at blive mere almindelige, og han gjorde denne forudsigelse på en konference, der blev afholdt på Massachusetts Institute of Technology. Dog ændrede Li sin tidsplan efter afsløringen af den kinesiske app Zao og andre nylige udviklinger i forbindelse med DeepFakes-teknologi. Li forklarede til CNBC, at metoderne, der er nødvendige for at skabe realistiske DeepFakes, er mere eller mindre de metoder, der i øjeblikket bruges, og at den vigtigste ingrediens, der vil skabe realistiske DeepFakes, er mere træningsdata.

Li og hans medforskere har arbejdet hårdt på teknologi til at opdage DeepFakes, og de forventer ankomsten af ekstremt overbevisende DeepFakes. Li og hans kolleger, såsom Hany Farid fra University of California, Berkeley, eksperimenterede med state-of-the-art DeepFake-algoritmer for at forstå, hvordan teknologien, der skaber dem, fungerer.

Li forklarede til CNBC:

“Hvis du vil kunne opdage DeepFakes, må du også se, hvad grænserne er. Hvis du skal bygge A.I.-rammer, der kan opdage ting, der er ekstremt realistiske, må disse trænes med denne type teknologi, så på en måde er det umuligt at opdage dem, hvis du ikke ved, hvordan de fungerer.”

Li og hans kolleger er investeret i at skabe værktøjer til at opdage DeepFakes i erkendelse af de potentielle problemer og farer, som teknologien udgør. Li og kolleger er langt fra den eneste gruppe af A.I.-forskere, der er bekymrede over de mulige effekter af DeepFakes og interesseret i at skabe modforanstaltninger mod dem.

For nylig startede Facebook (META ) et samarbejde med MIT, Microsoft (MSFT ) og University of Oxford for at skabe DeepFake Detection Challenge, der har til formål at skabe værktøjer, der kan bruges til at opdage, når billeder eller videoer er blevet ændret. Disse værktøjer vil være open source og kan bruges af virksomheder, medieorganisationer og regeringer. Imens har forskere fra University of Southern Californias Information Sciences Institute nylig skabt en række algoritmer, der kan skelne mellem falske videoer med en nøjagtighed på omkring 96%.

Dog forklarede Li også, at problemet med DeepFakes er måden, de kan misbruges på, og ikke teknologien i sig selv. Li nævnte flere legitime mulige anvendelser af DeepFake-teknologi, herunder i underholdnings- og modeindustrien.

DeepFake-teknikker er også blevet brugt til at replikere ansigtsudtryk af personer med tilslørede ansigter i billeder. Forskere brugte Generative Adversarial Networks til at skabe et helt nyt ansigt, der havde samme udtryk som en person i et originalbillede. Teknikkerne, der er udviklet af Norges teknisk-naturvitenskapelige universitet, kan hjælpe med at genskabe ansigtsudtryk under interviews med følsomme personer, der har brug for privatliv, såsom whistleblowere. Nogen andre kunne lade deres ansigt blive brugt som en stedfortræder for personen, der har brug for anonymitet, men personens ansigtsudtryk kunne stadig læses. As the sophistication of Deepfake technology increases, the legitimate use cases for Deepfakes will increase as well. However, the danger will also increase, and for this reason, the work on detecting DeepFakes done by Li and others grows even more important. Men da sofistikationen af Deepfake-teknologi øges, vil de legitime anvendelser af DeepFakes også øge. Dog vil farerne også øge, og derfor bliver arbejdet med at opdage DeepFakes, som Li og andre har gjort, endnu mere vigtigt.