Odborník říká: “Dokonalé” DeepFakes budou zde za 6 měsíců

Impozantní, ale kontroverzní DeepFakes, obrázky a videa manipulované nebo generované hlubokými neuronovými sítěmi, se pravděpodobně stanou ještě působivějšími a kontroverznějšími v blízké budoucnosti, podle Hao Liho, ředitele Laboratoře pro vidění a grafiku na University of Southern California. Li je expertem na počítačové vidění a DeepFakes, a v nedávném rozhovoru s CNBC řekl, že „dokonalé“ DeepFakes se pravděpodobně objeví do šesti měsíců.

Li vysvětlil, že většina DeepFakes je stále rozpoznatelná jako falešná pro lidské oko, a dokonce i ty více přesvědčivé DeepFakes stále vyžadují značné úsilí ze strany tvůrce, aby vypadaly realisticky. Nicméně, Li je přesvědčen, že do šesti měsíců se objeví DeepFakes, které vypadají dokonale reálně, protože algoritmy se stanou sofistikovanějšími.

Li původně myslel, že bude trvat dva až tři roky, než se velmi přesvědčivé DeepFakes stanou běžnějšími, a to řekl na nedávné konferenci pořádané na Massachusettském technologickém institutu. Nicméně, Li revidoval svůj časový plán po odhalení nedávné čínské aplikace Zao a dalších nedávných vývojů týkajících se technologie DeepFakes. Li vysvětlil CNBC, že metody potřebné k vytvoření realistických DeepFakes jsou více nebo méně stejné jako metody, které se目前 používají, a že hlavní složkou, která vytvoří realistické DeepFakes, je více tréninkových dat.

Li a jeho kolegové pracovali tvrdě na technologii detekce DeepFakes, předpovídající příchod velmi přesvědčivých DeepFakes. Li a jeho kolegové, jako Hany Farid z University of California Berkely, experimentovali se státními algoritmy DeepFakes, aby pochopili, jak funguje technologie, která je vytváří.

Li vysvětlil CNBC:

„Pokud chcete být schopni detekovat DeepFakes, musíte také vidět, co jsou jejich limity. Pokud potřebujete postavit rámce umělé inteligence, které jsou schopné detekovat věci, které jsou extrémně reálné, musí být tyto rámce trénovány pomocí těchto typů technologií, takže v některých směrech je nemožné je detekovat, pokud nevíte, jak fungují.“

Li a jeho kolegové se investovali do vytváření nástrojů pro detekci DeepFakes, uznávajíce potenciální problémy a nebezpečí, která tato technologie představuje. Li a jeho kolegové nejsou jedinými skupinou AI výzkumníků, kteří se obávají možných účinků DeepFakes a kteří se zajímají o vytváření protiopatření.

Nedávno společnost Facebook zahájila (META ) společný partnerství s MIT, Microsoftem a University of Oxford, aby vytvořila výzvu pro detekci DeepFakes, která má za cíl vytvořit nástroje, které lze použít k detekci, zda byly obrázky nebo videa upravena. Tyto nástroje budou otevřené a použitelné společnostmi, médii, organizacemi a vládami. Mezitím výzkumníci z University of Southern California’s Information Sciences Institute nedávno vytvořili sérii algoritmů, které mohou rozlišit falešné videa s přesností kolem 96%.

Nicméně, Li také vysvětlil, že problém s DeepFakes spočívá v tom, jak mohou být zneužity, a ne v samotné technologii. Li uvedl několik legitimních možných použití pro technologii DeepFakes, včetně použití v zábavním a módním průmyslu.

Techniky DeepFakes byly také použity k replikaci mimických výrazů lidí s zakrytými tvářemi na obrázcích. Výzkumníci použili Generative Adversarial Networks k vytvoření zcela nové tváře, která měla stejný výraz jako původní obraz. Techniky vyvinuté Norskou univerzitou vědy a technologie by mohly pomoci renderovat mimické výrazy během rozhovorů se seniorními lidmi, kteří potřebují soukromí, jako jsou whistlebloweri. Někdo jiný by mohl nechat svou tvář být použita jako náhradník za osobu, která potřebuje anonymitu, ale mimické výrazy osoby by mohly být stále čitelné.

Čím více se technologie DeepFakes zdokonaluje, tím více se zvýší počet legitimních použití pro DeepFakes. Nicméně, nebezpečí se také zvýší, a z tohoto důvodu se práce na detekci DeepFakes, kterou provádí Li a další, stává ještě důležitější.