Jak identifikovat deepfake videa jako faktické ověřovatelé

Deepfaky jsou syntetická média, kde je podobizna jednoho člověka nahrazena podobiznou jiného. Stávají se stále častějšími online, často šíří dezinformace po celém světě. Zatímco některé mohou vypadat neškodně, jiné mohou mít zlověstné úmysly, což činí důležité pro jednotlivce rozlišovat pravdu od digitálně vytvořeného falešného obsahu.

Bohužel, ne všichni mohou mít přístup ke špičkovému softwaru pro identifikaci deepfake videí. Zde je pohled na to, jak faktické ověřovatelé zkoumají video, aby určili jeho legitimitu, a jak můžete použít jejich strategie pro sebe.

1. Prozkoumejte kontext

Prozkoumání kontextu, ve kterém je video prezentováno, je zásadní. To znamená prozkoumat pozadí, nastavení a zda události ve videu odpovídají tomu, co víte, že je pravda. Deepfaky často selhávají zde, prezentují obsah, který se nezdržuje proti skutečným faktům nebo časovým osám při bližším prozkoumání.

Jedním z příkladů je deepfake ukrajinského prezidenta Volodymyra Zelenského. V březnu 2022 se na sociálních médiích objevil deepfake video, kde Zelenskyj vypadá, že vyzývá ukrajinské vojáky, aby složili zbraně a vzdali se ruským silám.

Při bližším prozkoumání několik kontextových podnětů vyznačilo nepravost videa. Úřední kanály ukrajinské vlády a Zelenskyj sám tuto zprávu nesdíleli. Kromě toho se čas a okolnosti neslučovaly se známými fakty o ukrajinském postoji a vojenské strategii. Vytvoření videa mělo za cíl demoralizovat ukrajinský odpor a šířit zmatení mezi mezinárodní komunitou, která podporuje Ukrajinu.

2. Zkontrolujte zdroj

Když narazíte na video online, zkontrolujte jeho zdroj. Chápat, odkud video pochází, je zásadní, protože hackeři by jej mohli použít proti vám, aby spustili kybernetický útok. Nedávno 75 % odborníků na kybernetickou bezpečnost uvedlo, že došlo k nárůstu kybernetických útoků, z nichž 85 % uvádí použití generativní umělé inteligence škodlivými osobami.

To se váže k růstu deepfake videí a odborníci se stále více setkávají s bezpečnostními incidenty, které jsou poháněny umělou inteligencí. Ověřte zdroj prozkoumáním, odkud video pochází. Video pocházející z pochybného zdroje by mohlo být součástí větší kybernetické útočné strategie.

Důvěryhodné zdroje jsou méně pravděpodobně šířit deepfake videa, což je činí bezpečnější volbou pro spolehlivé informace. Vždy zkříženě zkontrolujte videa s renomovanými zpravodajskými agenturami nebo úředními webovými stránkami, abyste zajistili, že to, co sledujete, je pravdivé.

3. Hledejte nesrovnalosti v mimice

Jedním z prozrazených znamení deepfaku je přítomnost nesrovnalostí v mimice. Zatímco technologie deepfaku pokročila, často se potýká s přesným napodobením jemných a složitých pohybů, které se přirozeně vyskytují, když člověk mluví nebo vyjadřuje emoce. Můžete je spatřit tím, že budete hledat následující nesrovnalosti:

• Nepřirozené mrknutí: Lidé mrknou v pravidelném, přirozeném vzoru. Deepfaky však mohou buď podhodnocovat mrknutí nebo ho přehánět. Například deepfake může ukázat osobu, která mluví po delší dobu bez mrknutí nebo mrkne příliš rychle.
• Chyby synchronizace rtů: Když někdo mluví ve videu, jeho pohyby rtů mohou být špatně sladěny. Pozorně sledujte, zda se rty shodují s audiem. V některých deepfakes je nesoulad jemný, ale detekovatelný při bližším pohledu.
• Mimika a emoce: Pravé lidské emoce jsou složité a odrážejí se v mimických pohybech. Deepfaky často selhávají při zachycení tohoto, což vede k tuhým, přehnaným nebo neúplně sladěným výrazům. Například deepfake video může ukázat osobu, která se usmívá nebo chmurně hledí s méně nuancí, nebo emoční reakce nemusí odpovídat kontextu rozhovoru.

4. Analyzujte audio

Audio může také poskytnout podněty k tomu, zda je video skutečné nebo falešné. Technologie deepfaku se snaží napodobit hlasy, ale nesrovnalosti často odhalují deepfaky. Například věnujte pozornost kvalitě a charakteristikám hlasu. Deepfaky mohou znít roboticky nebo ploše ve svém projevu, nebo jim může chybět emocionální inflexe, kterou by přirozeně vykazoval skutečný člověk.

Pozadí a kvalita zvuku mohou také poskytnout podněty. Náhlá změna by mohla naznačit, že části audio byly upraveny nebo složeny dohromady. Autentická videa jsou obvykle konzistentní po celou dobu.

5. Prošetřete osvětlení a stíny

Osvětlení a stíny sehrávají velkou roli při odhalení autenticity videa. Technologie deepfaku často zápasí s přesným napodobením toho, jak světlo interaguje s reálnými objekty, včetně lidí. Pozorné sledování osvětlení a stínů může pomoci vám identifikovat různé položky, které naznačují, zda je to deepfake.

V autentických videích by mělo být osvětlení a okolí subjektu konzistentní. Deepfake videa mohou zobrazovat nesrovnalosti, jako je osvětlení obličeje odlišně od pozadí. Pokud směr nebo zdroj světla ve videu nedává smysl, může to být známkou manipulace.

Za druhé, stíny by se měly chovat podle zdrojů světla ve scéně. V deepfakes mohou stíny vypadat v nesprávných úhlech nebo nesouhlasit s ostatními objekty. Anomálie ve velikosti stínů, směru a přítomnosti nebo absenci očekávaných stínů poskytují celkový přehled.

6. Zkontrolujte emocionální manipulaci

Deepfaky dělají více než vytvářejí přesvědčivé lži — lidé je často navrhují tak, aby manipulovaly emocemi a provokovaly reakce. Klíčovým aspektem identifikace takového obsahu je posoudit, zda má za cíl spustit emocionální reakci, která by mohla zamlžit racionální úsudek.

Například zvažte incident, kdy se na Twitteru X objevil umělý inteligentní obrázek bomby na Pentagonu. Přes to, že byl zcela vymyšlený, jeho znepokojivá povaha způsobila, že se stal virálním a spustil širokou paniku. V důsledku toho došlo ke ztrátě 500 miliard dolarů na akciovém trhu.

Deepfake videa mohou vyvolat stejnou míru paniky, zejména když je zapojena umělá inteligence. Při hodnocení těchto videí se zeptejte sami sebe:

• Zkouší obsah vyvolat silnou emocionální reakci, jako je strach, hněv nebo šok? Autentické zpravodajské zdroje se snaží informovat, ne vyburcovat.
• Shoduje se obsah s aktuálními událostmi nebo známými fakty? Emocionální manipulace často spoléhá na odpojení publika od racionální analýzy.
• Zpracovávají renomované zdroje stejnou zprávu? Absence korelace z důvěryhodných zpravodajských agentur může naznačit fabrikaci emocionálně nabitých obsahu.

7. Využijte nástroje pro detekci deepfaku

Jak se deepfaky stávají sofistikovanějšími, spoléhat se pouze na lidskou observaci k jejich identifikaci může být náročné. Naštěstí jsou k dispozici nástroje pro detekci deepfaku, které využívají pokročilou technologii k rozlišení mezi skutečnými a falešnými.

Tyto nástroje mohou analyzovat videa na nesrovnalosti a anomálie, které nemusí být viditelné pouhým okem. Využívají umělou inteligenci a strojové učení, využívající vodotiskování jako jednu z metod. Tyto technologie jsou trénovány k rozpoznání umístění vodotisku, aby určily, zda byl audio upraven.

Společnost Microsoft (MSFT ) vyvinula nástroj nazvaný Video Authenticator, který poskytuje skóre spolehlivosti, které označuje pravděpodobnost deepfaku. Podobně startupy a akademické instituce neustále vyvíjejí a zdokonalují technologie, aby držely krok s evolucí deepfaku.

Detekce deepfaku s úspěchem

Technologie má světlou a tmavou stránku a neustále se vyvíjí, takže je důležité být skeptický vůči tomu, co vidíte online. Když se setkáte se suspektním deepfakem, využijte své smysly a dostupné nástroje. Kromě toho vždy ověřte, odkud pochází. Dokud budete sledovat nejnovější zprávy o deepfaku, vaše důkladnost bude klíčová v zachování pravdy v éře falešných médií.