Jak identifikovat deepfake videa jako faktický kontrolór

Deepfakes jsou syntetická média, kde je podobizna jednoho člověka nahrazena podobiznou jiného. Stávají se čím dál častějšími online, často šířími dezinformace po celém světě. Zatímco některé mohou vypadat neškodně, jiné mohou mít zlověstné úmysly, což činí důležité, aby jednotlivci rozlišovali pravdu od digitálně vytvořeného falešného obsahu.

Bohužel, ne všichni mohou mít přístup ke špičkovému softwaru pro identifikaci deepfake videí. Zde je pohled na to, jak faktické kontrolóry zkoumají video, aby určili jeho legitimitu a jak můžete použít jejich strategie pro sebe.

1. Prozkoumejte kontext

Prozkoumání kontextu, ve kterém je video prezentováno, je zásadní. To znamená prohlédnout si pozadí, nastavení a zda události ve videu odpovídají tomu, co víte, že je pravda. Deepfakes často selhávají, prezentují obsah, který se neudrží proti skutečným faktům nebo časovým osám při bližším prohlédnutí.

Jedním z příkladů je deepfake ukrajinského prezidenta Volodymyra Zelenského. V březnu 2022, se na sociálních médiích objevil deepfake video, kde Zelenskyj vypadá, že vyzývá ukrajinské vojáky, aby složili zbraně a vzdali se ruským silám.

Při bližším prohlédnutí několik kontextových podnětů zdůraznilo nepravost videa. Úřední kanály ukrajinské vlády a Zelenskyj sám tuto zprávu nesdíleli. Také čas a okolnosti se neshodovaly se známými fakty o ukrajinském postoji a vojenské strategii. Vytvoření videa mělo za cíl demoralizovat ukrajinský odpor a šířit zmatek mezi mezinárodní komunitou, která podporuje Ukrajinu.

2. Zkontrolujte zdroj

Když narazíte na video online, zkontrolujte jeho zdroj. Porozumění, odkud video pochází, je zásadní, protože hackeři jej mohou použít proti vám, aby spustili kybernetický útok. Nedávno, 75% odborníků na kybernetickou bezpečnost uvedlo, že došlo k nárůstu kybernetických útoků, z nichž 85% poznamenalo použití generativní umělé inteligence zlými osobami.

To se vrací k růstu deepfake videí a odborníci se stále více setkávají s bezpečnostními incidenty, které jsou poháněny umělou inteligencí. Ověřte zdroj tak, že se podíváte, odkud video pochází. Video pocházející z pochybného zdroje by mohlo být součástí větší strategie kybernetického útoku.

Důvěryhodné zdroje jsou méně pravděpodobné, že budou šířit deepfake videa, což je činí bezpečnější volbou pro spolehlivé informace. Vždy křížově zkontrolujte videa s renomovanými zpravodajskými agenturami nebo úředními webovými stránkami, aby jste zajistili, že to, co sledujete, je pravdivé.

3. Hledejte nesrovnalosti v mimice

Jedním z prozrazených znamení deepfaku je přítomnost nesrovnalostí v mimice. Zatímco technologie deepfaku pokročila, často se potýká s přesným napodobením jemných a složitých pohybů, které se přirozeně vyskytují, když člověk mluví nebo vyjadřuje emoce. Můžete je spatřit tak, že budete hledat tyto nesrovnalosti:

• Nepravdivé mrknutí: Lidé mrknou v pravidelném, přirozeném vzoru. Deepfaky však mohou buď podhodnocovat mrknutí nebo je přehánět. Například deepfaku by mohl ukázat osobu, která mluví po delší dobu bez mrknutí nebo mrknutí příliš rychle.
• Chyby synchronizace rtů: Když někdo mluví ve videu, jeho pohyb rtů může být špatný. Pozorujte closely, zda se rty shodují s audiem. U některých deepfaku je nesoulad jemný, ale lze jej zjistit při bližším prohlédnutí.
• Mimika a emoce: Pravé lidské emoce jsou složité a odrážejí se v mimice. Deepfaky často selhávají při zachycení tohoto, což vede k tuhým, přehnaným nebo neúplně sladěným výrazům. Například deepfaku video by mohlo ukázat osobu, která se usmívá nebo mrzí s méně nuancí, nebo emoční reakce by nemusely odpovídat kontextu rozhovoru.

4. Analyzujte audio

Audio může také poskytnout podněty, zda je video skutečné nebo falešné. Technologie deepfaku se snaží napodobit hlasy, ale nesrovnalosti často prozrazují deepfaky. Například věnujte pozornost kvalitě a charakteristikám hlasu. Deepfaky mohou znít roboticky nebo ploše ve svém projevu, nebo jim může chybět emocionální inflexe, kterou by měl skutečný člověk.

Pozadí a kvalita zvuku mohou také poskytnout podněty. Náhlá změna by mohla naznačovat, že části audio byly upraveny nebo sloučeny. Autentická videa jsou obvykle konzistentní po celou dobu.

5. Prozkoumejte osvětlení a stíny

Osvětlení a stíny hrají velkou roli v odhalení autenticity videa. Technologie deepfaku často potýká s přesným napodobením, jak světlo interaguje s reálnými objekty, včetně lidí. Věnujte pozornost osvětlení a stínům, aby jste mohli spatřit různé položky, které naznačují, zda je to deepfaku.

V autentických videích by mělo být osvětlení a okolí subjektu konzistentní. Deepfaku videa mohou zobrazovat nepravidelnosti, jako je osvětlení obličeje, které se liší od pozadí. Pokud směr nebo zdroj světla ve videu nedává smysl, může to být známkou manipulace.

Za druhé, stíny by se měly chovat podle zdrojů světla ve scéně. V deepfaku stíny mohou vypadat v nesprávných úhlech nebo selhat odpovídat s jinými objekty. Anomálie ve velikosti stínů, směru a přítomnosti nebo absence očekávaných stínů poskytují celkový přehled.

6. Zkontrolujte emocionální manipulaci

Deepfaky dělají více než vytvářejí přesvědčivé lži — lidé je často navrhují tak, aby manipulovali emocemi a vyvolávali reakce. Klíčovým aspektem identifikace takového obsahu je posoudit, zda má za cíl vyvolat emocionální reakci, která by mohla zkalit racionální úsudek.

Například zvažte incident, kdy se na Twitteru X objevil AI-generovaný obrázek bomby v Pentagonu. Navzdory tomu, že byl zcela vymyšlený, obrázekova znepokojivá povaha způsobila, že se stal virálním a vyvolal širokou paniku. Jako výsledek, došlo ke ztrátě 500 miliard dolarů na akciovém trhu.

Deepfaku videa mohou vyvolat stejnou míru paniky, zejména když je zapojena umělá inteligence. Při hodnocení těchto videí se zeptejte sami sebe:

• Zkouší obsah vyvolat silnou emocionální reakci, jako je strach, vztek nebo šok? Autentické zpravodajské zdroje se snaží informovat, ne vyburcovat.
• Shoduje se obsah s aktuálními událostmi nebo známými fakty? Emocionální manipulace často spoléhá na odpojení publika od racionální analýzy.
• Zpravují renomované zdroje o stejné zprávě? Absence korelace z důvěryhodných zpravodajských zdrojů může naznačovat fabrikaci emocionálně nabitého obsahu.

7. Využijte nástroje pro detekci deepfaku

Jak deepfaky se stávají stále sofistikovanějšími, spoléhat se pouze na lidskou observaci k jejich identifikaci může být náročné. Naštěstí jsou k dispozici nástroje pro detekci deepfaku, které používají pokročilou technologii k rozlišení mezi skutečnými a falešnými.

Tyto nástroje mohou analyzovat videa na nesrovnalosti a anomálie, které nemusí být viditelné pro oko. Utilizují umělou inteligenci a strojové učení pomocí speech watermarkingu jako jedné z metod. Tyto technologie jsou trénovány k rozpoznání umístění vodního znaku, aby určily, zda bylo audio upraveno.

Microsoft vyvinul nástroj nazvaný Video Authenticator, který poskytuje skóre spolehlivosti, které ukazuje, jak pravděpodobně je deepfaku. Podobně startupy a akademické instituce neustále vyvíjí a vylepšují technologie, aby držely krok s evolucí deepfaku.

Úspěšné odhalení deepfaku

Technologie má světlou a tmavou stránku a neustále se vyvíjí, takže je důležité být skeptický vůči tomu, co vidíte online. Když narazíte na podezřelý deepfaku, použijte své smysly a dostupné nástroje. Navíc vždy ověřte, odkud pochází. Dokud budete držet krok s nejnovějšími zprávami o deepfaku, vaše důkladnost bude klíčová v zachování pravdy ve věku falešných médií.