Deepfakes a navigace v nové éře syntetických médií

Pamatujete “fake news”? Tento termín byl používán (a zneužíván) tak široce, že může být obtížné si vzpomenout, co původně znamenal. Ale koncept má velmi specifický původ. Před deseti lety začali novináři varovat před přílivem údajných “zpravodajských” webů, které šířily falešné, často absurdní tvrzení o politikích a celebritách. Mnozí mohli okamžitě rozpoznat, že tyto weby jsou nelegitimní.

Ale mnozí jiní postrádali kritické nástroje, aby rozpoznali tuto skutečnost. Výsledkem byl první znak epistemologické krize, která nyní pohlcuje internet – krize, která dosáhla svého nejstrašidelnějšího projevu s nástupem deepfakes.

V porovnání s i jen průměrným deepfake vypadají “fake news” weby z minulosti poměrně nevinně. Horší je, že i ti, kteří se považují za poměrně mediálně gramotné, jsou v ohrožení, že budou oklamaní. Syntetická média vytvořená pomocí algoritmů hlubokého učení a generativního AI mají potenciál způsobit chaos v základech naší společnosti. Podle Deloitte by tyto syntetická média mohla letos sama o sobě stát podniky více než 250 milionů dolarů prostřednictvím falešných transakcí a jiných druhů podvodů. Mezitím Světové ekonomické fórum označilo deepfakes za “jednu z nejvíce znepokojivých aplikací AI”, poukazující na potenciál “agenda-driven, real-time AI chatbotů a avatarů” pro facilitaci nových forem ultra-personalizované (a ultra-účinné) manipulace.

Navrhovaná reakce Světového ekonomického fóra na tento problém je rozumná: doporučují “nulově důvěřivý postoj“, který přináší určitou dávku skepse do každého setkání s digitálními médii. Pokud chceme rozlišovat mezi autentickými a syntetickými médii v budoucnu – zejména v imersivních online prostředích – takový postoj bude stále více nezbytný.

Dvě přístupy k boji proti krizi deepfakes

Boj proti rozšířenému dezinformaci vytvořené syntetickými médii bude podle mého názoru vyžadovat dva odlišné přístupy.

První zahrnuje verifikaci: poskytování jednoduchého způsobu, jak běžní uživatelé internetu mohou určit, zda video, které sledují, je skutečně autentické. Takové nástroje jsou již široce používány v odvětvích, jako je pojištění, kde existuje potenciál, že špatní aktéři budou podávat falešné nároky pomocí upravených videí, fotografií a dokumentů. Demokratizace těchto nástrojů – tj. zpřístupnění jich zdarma a snadno – je prvním krokem v tomto boji, a již vidíme významný pokrok na této frontě.

Druhý krok je méně technologický a tudíž více výzvou: totiž zvyšování povědomí a rozvíjení kritického myšlení. V důsledku původního skandálu “fake news” v roce 2015 vytvořily neziskové organizace po celé zemi programy mediální gramotnosti a pracovaly na šíření osvědčených postupů, často ve spolupráci s místními občanskými institucemi, aby umožnily běžným občanům rozpoznat nepravdivé informace. Samozřejmě, stará “fake news” je proti nejlepším deepfakes dětinská hra, a proto musíme své úsilí na této frontě zdvojnásobit a investovat do vzdělávání na všech úrovních.

Pokročilé deepfakes vyžadují pokročilé kritické myšlení

Samozřejmě, tyto vzdělávací iniciativy byly somewhat snazší, když šlo o textově založenou dezinformaci. S falešnými zpravodajskými weby byly znaky podvodu často zjevné: špatný webdesign, četné překlepy, podivné zdroje. U deepfakes jsou znaky mnohem jemnější – a často nemožné rozpoznat na první pohled.

Proto internetoví uživatelé všech věkových kategorií potřebují účinně přeškolit sami sebe, aby prohlíželi digitální video za znaky deepfakes. To znamená věnovat pozornost řadě faktorů. U videa to může znamenat nepravděpodobně rozmazané oblasti a stíny; nepřirozeně vypadající pohyby obličeje a výrazy; příliš dokonalé tóny pleti; nekonzistentní vzory v oděvu a pohybech; chyby synchronizace rtů; a tak dále. U audia to může znamenat hlasy, které znějí příliš čistě (nebo zjevně digitalizovaně), nedostatek lidského emocionálního tónu, podivné řečové vzory nebo neobvyklé formulace.

V krátkodobém horizontu může být tento druh sebeškolování velmi užitečný. Přitom, když se sami sebe ptáme, zda toto vypadá podezřele, zostřujeme nejen naši schopnost detekovat deepfakes, ale také naše kritické myšlení obecně. Říkáme si, zda toto dává smysl, zda toto je podezřelé – tím zvyšujeme naši schopnost konfrontovat nejen falešná média, ale i svět jako takový. Pokud existuje stříbrná linie éry deepfakes, je to právě tato. Jsme nuceni myslet sami za sebe a stát se více empirickými ve svém denním životě – a to může být pouze dobré.