Co jsou Deepfakes?

Jak se deepfakes stávají snadněji vytvářetelnými a častějšími, je jim věnována větší pozornost. Deepfakes se staly středem diskusí o etice umělé inteligence, dezinformacích, otevřenosti informací a internetu a regulaci. Je důležité být informován o deepfakes a mít intuitivní pochopení toho, co deepfakes jsou. Tento článek vysvětlí definici deepfaku, prozkoumá jejich použití, diskutuje, jak lze deepfakes detekovat, a prozkoumá důsledky deepfakes pro společnost.

Co jsou Deepfakes?

Než budeme dále diskutovat o deepfakes, bylo by užitečné strávit nějaký čas a vysvětlit co vlastně deepfakes jsou. Existuje značné množství zmatku ohledně termínu Deepfake, a často je tento termín nesprávně aplikován na jakoukoli falsifikovanou média, bez ohledu na to, zda se jedná o skutečný deepfake nebo ne. Aby médium mohlo být považováno za deepfake, musí být generováno pomocí systému strojového učení, konkrétně hluboké neuronové sítě.

Klíčovým ingrediencem deepfakes je strojové učení. Strojové učení ermögnilo počítačům automaticky generovat video a audio relativně rychle a snadno. Hluboké neuronové sítě jsou trénovány na záběrech skutečné osoby, aby síť mohla naučit, jak lidé vypadají a pohybují se v cílovém prostředí. Trénovaná síť je poté použita na obrázcích jiné osoby a doplněna o další počítačové grafické techniky, aby mohla kombinovat novou osobu s původním záběrem. Algoritmus encoder je použit k určení podobností mezi původní tváří a cílovou tváří. Jakmile jsou společné rysy tváří izolovány, je použit druhý algoritmus AI zvaný decoder. Decoder zkoumá zakódované (komprimované) obrázky a rekonstruuje je na základě rysů v původních obrazech. Používají se dva decodery, jeden na tváři původního subjektu a druhý na tváři cílové osoby. Aby mohla být provedena výměna, je decoder trénovaný na obrazech osoby X krmen obrázky osoby Y. Výsledkem je, že tvář osoby Y je rekonstruována nad tváří osoby X, s jejími výrazovými a orientačními rysy.

Currently, stále to vyžaduje poměrně dlouhou dobu, aby byl vytvořen deepfake. Tvůrce falešného média musí strávit dlouhou dobu ručním nastavováním parametrů modelu, protože suboptimální parametry povedou k nápadným nedokonalostem a chybám obrazu, které prozradí skutečnou povahu falešného média.

Although, je často předpokládáno, že většina deepfakes je vytvořena pomocí typu neuronové sítě zvaného generativní adversativní síť (GAN), mnoho (možná většina) deepfakes vytvořených dnes nezávisí na GANech. Ačkoli GANy sehrály prominentní roli ve vytváření prvních deepfakes, většina deepfake videí je vytvořena pomocí alternativních metod, podle Siwei Lyu z SUNY Buffalo.

Jak jsou Deepfakes používány?

Mnoho deepfakes nalezených online je pornografické povahy. Podle výzkumu provedeného firmou Deeptrace, z aproximativně 15 000 deepfake videí pořízených v září 2019, bylo aproximativně 95 % z nich pornografické povahy. Zneklidňující důsledky tohoto faktu jsou, že s tím, jak se technologie stává snadněji použitelnou, mohou se zvýšit případy falešné pomsty pornografie.

Non-Video Deepfakes

Zatímco většina lidí si při slyšení termínu „deepfake“ představí falešné video, falešná videa nejsou jediným typem falešných médií vytvářených pomocí technologie deepfakes. Technologie deepfakes je použita k vytváření falešných fotografií a audiozáznamů. Jak již bylo zmíněno, GANy jsou často používány k generování falešných obrazů. Je předpokládáno, že došlo k mnoha případům falešných profilů na LinkedIn a Facebook, jejichž profilové obrázky byly generovány pomocí algoritmů deepfakes.

Jak identifikovat Deepfakes

Jak se deepfakes stávají stále sofistikovanějšími, bude stále obtížnější je rozlišit od skutečných médií. V současné době existují několik značek, podle kterých lze zjistit, zda je video potenciálně deepfake, jako je špatné sladění rtů, nepřirozený pohyb, blikání kolem okraje obličeje a deformace jemných detailů, jako je vlasy, zuby nebo odrazy. Další potenciální znaky deepfakes zahrnují nižší kvalitu některých částí videa a nepravidelné mrkání očí.

Artificiální inteligence a velké technologické společnosti provádějí výzkum metod detekce deepfakes. V loňském prosinci byla spuštěna výzva k detekci deepfakes, kterou podporovaly tři technologické giganty: Amazon, Facebook a Microsoft. Výzkumné týmy z celého světa pracovaly na metodách detekce deepfakes, soutěžily o vývoj nejlepších detekčních metod. Další skupiny výzkumníků, jako je skupina kombinovaných výzkumníků z Google a Jigsaw, pracují na typu „face forensics“, který může detekovat videa, která byla upravena, zpřístupňují své datové sady a vyzývají ostatní k vývoji metod detekce deepfakes. Předchozí Dessa pracovala na zdokonalování technik detekce deepfakes, snažila se zajistit, aby detekční modely fungovaly na deepfake videích nalezených na internetu, spíše než pouze na předem složených trénovacích a testovacích datech, jako je otevřená datová sada poskytnutá Googlem.

Důsledky Deepfakes

Jaké jsou nebezpečí, která vznikají, pokud se deepfakes rozšíří bez kontroly?

Jedním z největších problémů, které deepfakes目前 vytvářejí, je nezávislá pornografie, vytvořená kombinací lidí tváří s pornografickými videi a obrázky. Odborníci na etiku AI se obávají, že deepfakes budou použity k vytváření falešné pomsty pornografie. Kromě toho mohou deepfakes být použity k šikanování a poškozování pověsti téměř kohokoli, protože mohou být použity k umístění lidí do kontroverzních a kompromitujících situací.

Společnosti a odborníci na kybernetickou bezpečnost vyjádřili obavy z použití deepfakes k usnadnění podvodů, frau a vydírání. Údajně byl deepfake audio použit k přesvědčení zaměstnanců společnosti, aby převedli peníze na podvodníky.

Je možné, že deepfakes mohou mít škodlivé účinky i za hranicemi těch, které jsou zde uvedeny. Deepfakes mohou podkopat důvěru lidí v média obecně a učinit obtížným rozlišení mezi skutečnými a falešnými zprávami. Pokud je mnoho videí na webu falešných, stává se snazší pro vlády, společnosti a jiné subjekty zpochybnit legitimitu skutečných kontroverzí a neetických praktik.