V roce 2024 budou deepfakes mainstream. Zde je, jak se mohou podniky chránit

Od prezidentských voleb v roce 2016, kdy se obavy z dezinformací dostaly do veřejného povědomí, varují odborníci před deepfakes. Důsledky této technologie jsou a zůstávají děsivé. Nekontrolovaná proliferace hyperrealistických syntetických médií představuje hrozbu pro každého – od politiků po běžné lidi. V již tak napjatém prostředí charakterizovaném širokou nedůvěrou slibují deepfakes pouze přidat další palivo do ohně.

Jak se ukázalo, naše obavy byly předčasné. Technologická odbornost potřebná k vytvoření deepfakes, spolu s jejich často špatnou kvalitou, znamenala, že pro alespoň dvě poslední prezidentské volební cykly zůstaly minimální obavou.

Ale vše se má změnit – mění se již. Za posledních dva roky se technologie generativního AI dostala do mainstreamu, radikálně zjednodušila proces vytváření deepfakes pro průměrného spotřebitele. Tyto stejné inovace také výrazně zvýšily kvalitu deepfakes, takže v slepém testu by většina lidí nebyla schopna rozlišit upravené video od skutečného.

Tento rok, zejména, jsme začali vidět náznaky toho, jak tato technologie může ovlivnit společnost, pokud se proti ní nebudou podnikat kroky. Loňského roku, například, fotka papeže Františka v nezvykle stylovém kabátě se stala virální a mnozí ji považovali za autentickou. Zatímco to může na jedné úrovni vypadat jako neškodná zábava, odhaluje to nebezpečnou sílu těchto deepfakes a jak těžké je zastavit dezinformace, jakmile se začnou šířit. Můžeme očekávat, že nalezneme méně zábavné – a mnohem nebezpečnější – případy tohoto druhu virální padělané reality v nadcházejících měsících a letech.

Z tohoto důvodu je nezbytné, aby organizace všech druhů – od médií po finance, vlády a sociální média – přijaly proaktivní postoj k detekci deepfakes a verifikaci autenticity obsahu. Kultura důvěry prostřednictvím bezpečnostních opatření musí být zavedena nyní, předtím, než vlna deepfakes smete naše společné chápání reality.

Pochopení hrozby deepfakes

Než se ponoříme do toho, co organizace mohou udělat, aby bojovaly proti této vlně deepfakes, stojí za to vysvětlit, proč jsou bezpečnostní nástroje nezbytné. Obvykle ti, kteří se obávají deepfakes, citují jejich potenciální dopad na politiku a důvěru ve společnosti. Tyto potenciální důsledky jsou extrémně důležité a neměly by být zanedbány v žádné diskusi o deepfakes. Ale jak se ukázalo, vzestup této technologie má potenciálně katastrofální účinky napříč několika sektory americké ekonomiky.

Vezměme si například pojišťovnictví. V současné době činí roční pojistné podvody v Spojených státech 308,6 miliard dolarů – číslo, které je zhruba čtvrtinou celého odvětví. Současně jsou back-end operace většiny pojišťoven stále více automatizovány, s 70% standardních nároků, které se očekávají jako bezdotykové do roku 2025. To znamená, že rozhodnutí jsou stále více učiněna s minimálním lidským zásahem – samoobslužné na přední straně a AI-usnadněné automatizaci na zadní straně.

Ironicky, sama technologie, která umožnila tento nárůst automatizace – tj. strojové učení a umělá inteligence – zajišťuje její zneužití špatnými aktéry. Nyní je pro průměrného člověka snadnější než kdykoli dříve manipulovat nároky – například pomocí generativních programů AI, jako je Dall-E, Midjourney nebo Stable Diffusion, aby auto vypadalo více poškozené, než ve skutečnosti je. Už existují aplikace, které slouží výhradně k tomuto účelu, jako je Dude Your Car!, která umožňuje uživatelům uměle vytvářet důlky na fotografiích svých vozidel.

Totéž platí pro oficiální dokumenty, které lze nyní snadno manipulovat – s fakturami, podrobnými posudky a dokonce i podpisy upravenými nebo vynalezenými. Tento problém není pouze pro pojišťovny, ale pro celou ekonomiku. Je to problém pro finanční instituce, které musí ověřit autenticitu širokého spektra dokumentů. Je to problém pro maloobchodníky, kteří mohou obdržet stížnost, že produkt dorazil poškozený, doprovázený upraveným obrazem.

Podniky jednoduše nemohou fungovat s tímto stupněm nejistoty. Některý stupeň podvodu je pravděpodobně vždy nevyhnutelný, ale s deepfakes nemluvíme o podvodu na okrajích – mluvíme o potenciální epistemologické katastrofě, ve které podniky nemají jasný způsob, jak určit pravdu od fikce, a skončí ztrátou miliard dolarů kvůli této záměně.

Boj s ohněm: jak AI může pomoci

Co tedy lze udělat, aby se tomu zabránilo? Možná překvapivě, odpověď leží v samotné technologii, která usnadňuje deepfakes. Pokud chceme zastavit tuto metlu, než získá více hybnosti, musíme bojovat ohněm s ohněm. AI může pomoci generovat deepfakes – ale také, bohudík, může pomoci je identifikovat automaticky a ve velkém měřítku.

Pomocí správných nástrojů AI mohou podniky automaticky určit, zda určitá fotografie, video nebo dokument byl upraven. Přinášející desítky různých modelů k úkolu identifikace padělků, AI může automaticky říci podnikům, zda určitá fotografie nebo video je podezřelé. Jako nástroje, které podniky již nasazují k automatizaci denních operací, mohou tyto nástroje běžet na pozadí bez zatížení přetíženého personálu nebo odebírání času od důležitých projektů.

Pokud a když je fotografie identifikována jako potenciálně upravená, lidský personál může být upozorněn a může problém vyhodnotit přímo, s pomocí informací poskytnutých AI. Pomocí hluboké analýzy může říci podnikům proč se domnívá, že fotografie byla pravděpodobně upravena – ukazující, například, na ručně upravená metadata, existenci identických obrázků na webu, různé fotografické nepravidelnosti atd.

Nic z toho nesnižuje úžasné pokroky, kterých jsme byli svědky v technologii generativního AI za posledních několik let, které skutečně mají užitečné a produktivní aplikace napříč odvětvími. Ale sama síla – neřkuli jednoduchost – této vznikající technologie téměř zajišťuje její zneužití těmi, kdo se snaží manipulovat organizacemi, ať už pro osobní zisk nebo pro sowing společenské chaosu.

Organizace mohou mít to nejlepší z obou světů: produktivní výhody AI bez nevýhod všudypřítomných deepfakes. Ale to vyžaduje novou míru bdělosti, zejména s ohledem na fakt, že výstupy generativního AI jsou pouze stále přesvědčivější, podrobnější a životnější den za dnem. Čím dříve se organizace zaměří na tento problém, tím dříve mohou využít plné výhody automatizovaného světa.