Deepfakes a navigace v nové éře syntetických médií

Pamatujete si „falešné zprávy“? Termín byl v tomto bodě používán (a zneužíván) tak široce, že může být těžké si vzpomenout, co původně odkazoval. Tento koncept má ale velmi specifický původ. Před deseti lety začali novináři bít na poplach kvůli přílivu údajných „zpravodajských“ webů, které házely nepravdivá, často výstřední tvrzení o politicích a celebritách. Mnozí mohli okamžitě říci, že tyto stránky byly nelegitimní.

Ale mnoho dalších postrádalo kritické nástroje, aby to poznali. Výsledkem bylo první probuzení epistemologické krize, která nyní pohlcuje internet – krize, která dosáhla svého nejděsivějšího projevu se vzestupem hluboké zápasy.

Kromě snesitelného deepfakeu se dřívější „falešné zprávy“ zdají krotké. Ještě horší je, že i ti, kteří se domnívají, že mají relativně vysokou úroveň mediální gramotnosti, jsou vystaveni riziku, že budou oklamáni. Syntetická média vytvořené s použitím algoritmy pro hluboké učení si generativní AI mají potenciál způsobit zkázu v základech naší společnosti. Podle společnosti Deloitte by jen letos mohly stát podniky více než 250 milionů dolarů prostřednictvím falešných transakcí a dalších druhů podvodů. Mezitím Světové ekonomické fórum označilo deepfakes za „jedno z nejvíce znepokojujících využití AI“, přičemž poukázalo na potenciál „agendy řízených chatbotů a avatarů AI v reálném čase“ k usnadnění nových druhů ultra personalizovaných (a ultra efektivní) manipulace.

Navrhovaná reakce Světového ekonomického fóra (WEF) na tento problém je rozumná: zasazují se o „…myšlení s nulovou důvěrou“, který přináší určitou míru skepse do každého setkání s digitálními médii. Chceme-li rozlišovat mezi autentickým a syntetickým pohybem vpřed – zejména v pohlcujících online prostředích – bude takové myšlení stále důležitější.

Dva přístupy k boji s hlubokou krizí

Boj s nekontrolovatelným dezinformace chovaný syntetickými médii bude podle mého názoru vyžadovat dva odlišné přístupy.

Prvním je ověřování: poskytnutí jednoduchého způsobu, jak mohou běžní uživatelé internetu zjistit, zda je video, na které se dívají, skutečně autentické. Takové nástroje jsou již rozšířené v odvětvích, jako je pojišťovnictví, vzhledem k potenciálu zločinců podávat falešná tvrzení na základě pozměněných videí, fotografií a dokumentů. Demokratizace těchto nástrojů – jejich bezplatné a snadné zpřístupnění – je klíčovým prvním krokem v tomto boji a v tomto směru již vidíme významný posun.

Druhý krok je méně technologické povahy, a proto představuje větší výzvu: konkrétně jde o zvyšování povědomí a podporu kritického myšlení. Po původním skandálu s „falešnými zprávami“ v roce 2015 neziskové organizace po celé zemi vypracovaly programy mediální gramotnosti a pracovaly na šíření osvědčených postupů, často ve spolupráci s místními občanskými institucemi, aby umožnily běžným občanům rozpoznat lži. Staromódní „falešné zprávy“ jsou samozřejmě dětskou hrou vedle nejpokročilejších deepfaků, a proto musíme v tomto ohledu zdvojnásobit své úsilí a investovat do vzdělávání na všech úrovních.

Pokročilé deepfakes vyžadují pokročilé kritické myšlení

Tyto vzdělávací iniciativy byly samozřejmě poněkud snazší, když byly dezinformace textové. U webů s falešnými zprávami byly náznaky podvodu často zřejmé: nechutný webový design, přemnožené překlepy, bizarní zdroje. U deepfakes jsou znaky mnohem jemnější – a dost často si jich na první pohled nevšimnete.

V souladu s tím se uživatelé internetu všech věkových kategorií potřebují efektivně přeškolit, aby prozkoumali digitální video na indikátory hlubokého falšování. To znamená věnovat velkou pozornost řadě faktorů. U videa by to mohlo znamenat neskutečně zdánlivě rozmazané oblasti a stíny; nepřirozeně vypadající pohyby a výrazy obličeje; příliš dokonalé tóny pleti; nejednotné vzory v oblečení a v pohybech; chyby synchronizace rtů; dál a dál. U zvuku by to mohlo znamenat hlasy, které znějí příliš nedotčeně (nebo zjevně digitalizované), nedostatek emocionálního tónu, který cítí člověk, zvláštní řečové vzorce nebo neobvyklé frázování.

Z krátkodobého hlediska může být tento druh autotréninku velmi užitečný. Tím, že se sami sebe znovu a znovu ptáme: Vypadá to podezřele?, zdokonalujeme nejen svou schopnost odhalit hluboké faleš, ale obecně své schopnosti kritického myšlení. To znamená, že se rychle blížíme k bodu, ve kterém ani nejlépe trénované oko nebude schopno oddělit fakta od fikce bez vnější pomoci. Vizuální sdělení – výše zmíněné nepravidelnosti – budou technologicky vyhlazeny, takže kompletně vyrobené klipy budou k nerozeznání od pravého předmětu. Zůstane nám naše situační intuice – naše schopnost klást si otázky typu Opravdu by to řekl ten a ten politik nebo celebrita? Je obsah tohoto videa věrohodný?

Právě v tomto kontextu jsou platformy detekce umělé inteligence tak zásadní. Pouhým okem, které je pro účely detekce deepfake irelevantní, mohou tyto platformy sloužit jako definitivní arbitri reality – zábradlí proti epistemologické propasti. Když video vypadá jako skutečné, ale zdá se být nějak podezřelé – což se v nadcházejících měsících a letech bude objevovat stále častěji – tyto platformy nás mohou udržet při zemi ve faktech tím, že potvrdí základní pravdivost čehokoli, na co se díváme. S touto výkonnou technologií nás nakonec může zachránit pouze samotná AI. Potřebujeme bojovat s ohněm ohněm – což znamená použití dobré umělé inteligence k odstranění nejhorších zneužití technologie.

Osvojení těchto dovedností v žádném případě nemusí být cynický nebo negativní proces. Pěstování myšlení s nulovou důvěrou lze spíše vnímat jako příležitost k prohloubení kritického myšlení, intuice a vnímání. Tím, že si budete znovu a znovu klást určité klíčové otázky – Dává to smysl? Je to podezřelé? – zvyšujete svou schopnost čelit nejen falešným médiím, ale i celému světu. Pokud na éře deepfake existuje něco pozitivního, pak je to právě toto. Jsme nuceni myslet samostatně a stát se v našem každodenním životě empiričtějšími – a to může být jedině dobře.