V roce 2024 se Deepfakes stanou mainstreamem. Zde je návod, jak se mohou firmy chránit

Přinejmenším od voleb v roce 2016, kdy se do povědomí veřejnosti dostaly obavy kolem dezinformací, odborníci bijí na poplach ohledně deepfakes. Důsledky této technologie byly – a zůstávají – děsivé. Nekontrolované šíření hyperrealistických syntetických médií představuje hrozbu každý– od politiků po běžné lidi. V hořlavém prostředí, které již bylo charakterizováno rozšířenou nedůvěrou, deepfakes slibovaly, že plameny jen přiženou.

Jak se ukázalo, naše obavy byly předčasné. Technologické know-how potřebné ke skutečné výrobě deepfakes, spolu s jejich často podřadnou kvalitou, znamenaly, že přinejmenším v posledních dvou cyklech prezidentských voleb zůstávaly minimálním problémem.

Ale to všechno se má změnit – už se to mění. Během posledních dvou let vstoupila generativní technologie AI do hlavního proudu a radikálně zjednodušila proces vytváření deepfakes pro běžného spotřebitele. Tyto stejné inovace výrazně zvýšily kvalitu deepfakes, takže při slepém testu by většina lidí nebyla schopna rozlišit upravené video od skutečného.

Zejména letos jsme začali vidět náznaky toho, jak by tato technologie mohla ovlivnit společnost, pokud proti ní nebude vynaloženo úsilí. Minulý rok například AI vygenerovaná fotografie papeže Františka v neobvykle stylovém kabátě šel virovýa byl mnohými považován za autentický. I když se to na jedné úrovni může zdát jako neškodná zábava, odhaluje to nebezpečnou sílu těchto deepfakeů a jak těžké může být omezit dezinformace, jakmile se začnou šířit. Můžeme očekávat, že v nadcházejících měsících a letech najdeme mnohem méně zábavné – a mnohem nebezpečnější – případy tohoto druhu virového podvodu.

Z tohoto důvodu je nezbytné, aby organizace všech kategorií – od médií přes finance až po vlády až po platformy sociálních médií – zaujaly proaktivní postoj k detekci deepfake a ověřování pravosti obsahu. Je třeba vytvořit kulturu důvěry prostřednictvím záruk teď, než přílivová vlna deepfakes dokáže smýt naše společné chápání reality.

Pochopení hluboké falešné hrozby

Než se ponoříme do toho, co mohou organizace udělat pro boj s tímto nárůstem deepfakes, stojí za to upřesnit, proč jsou ochranné nástroje nezbytné. Ti, kteří se zabývají deepfakes, obvykle uvádějí jejich potenciální vliv na politiku a důvěru společnosti. Tyto potenciální důsledky jsou extrémně důležité a neměly by být opomíjeny v žádné konverzaci o deepfakes. Ale jak už to tak bývá, vzestup této technologie má potenciálně hrozivé dopady v mnoha sektorech americké ekonomiky.

Vezměte si například pojištění. Právě nyní dosahují roční pojistné podvody ve Spojených státech až 308.6 miliardy dolarů – což je číslo zhruba čtvrtinové jako celé odvětví. Zároveň jsou back-end operace většiny pojišťoven stále více automatizovány, přičemž se předpokládá, že 70 % standardních pojistných událostí bude do roku 2025 bezdotykových. To znamená, že rozhodnutí jsou stále častěji přijímána s minimálním zásahem člověka: samoobslužná přední část a automatizace usnadněná AI na zadní straně.

Je ironií, že právě technologie, která umožnila tento nárůst automatizace – tj. strojové učení a umělá inteligence – zaručila její zneužití špatnými herci. Pro průměrného člověka je nyní snazší než kdy jindy manipulovat s nároky – například pomocí generativních programů umělé inteligence, jako je Dall-E, Midjourney nebo Stable Diffusion, aby auto vypadalo poškozeněji, než je. Již existují aplikace speciálně pro tento účel, jako je Dude Your Car!, která uživatelům umožňuje uměle vytvářet promáčkliny na fotografiích jejich vozidel.

Totéž platí o úředních dokumentech, se kterými lze nyní snadno manipulovat – s fakturami, upisovacími posudky a dokonce i podpisy upravenými nebo vymyšlenými velkoobchodně. Tato schopnost je problémem nejen pro pojišťovny, ale v celé ekonomice. Je to problém finančních institucí, které musí ověřovat pravost široké škály dokumentů. Je to problém pro maloobchodníky, kteří mohou obdržet stížnost, že produkt dorazil vadný spolu s upraveným obrázkem.

Podniky prostě nemohou fungovat s tímto stupněm nejistoty. Určitá míra podvodu je pravděpodobně vždy nevyhnutelná, ale u deepfakes nehovoříme o podvodech na okraji – mluvíme o potenciální epistemologické katastrofě, ve které podniky nemají žádné jasné prostředky, jak určit pravdu z fikce, a nakonec ztratí miliardy dolarů do tohoto zmatku.

Boj s ohněm ohněm: jak může pomoci AI

Takže, co lze udělat pro boj s tímto? Možná není překvapením, že odpověď spočívá v samotné technologii, která umožňuje deepfakes. Pokud chceme zastavit tuto pohromu dříve, než nabere na síle, musíme bojovat s ohněm ohněm. Umělá inteligence může pomoci generovat deepfakes – ale také je naštěstí může pomoci identifikovat automaticky a ve velkém měřítku.

Pomocí správných nástrojů umělé inteligence mohou podniky automaticky určit, zda byla s danou fotografií, videem nebo dokumentem neoprávněně manipulováno. Umělá inteligence, která přivádí desítky různých modelů k úkolu falešné identifikace, dokáže firmám automaticky přesně říct, zda je daná fotografie nebo video podezřelé. Stejně jako nástroje, které podniky již nasazují k automatizaci každodenních operací, mohou tyto nástroje běžet na pozadí, aniž by zatěžovaly přetížené zaměstnance nebo zkracovaly čas důležitými projekty.

Pokud je fotografie identifikována jako potenciálně pozměněná, lidský personál může být upozorněn a může problém přímo vyhodnotit s pomocí informací poskytnutých AI. Pomocí analýzy hlubokého skenování může firmám říci proč domnívá se, že fotografie byla pravděpodobně zfalšována – ukazuje například na ručně pozměněná metadata, existenci identických obrázků na webu, různé fotografické nepravidelnosti atd.

Nic z toho nemá očerňovat neuvěřitelný pokrok, kterého jsme v posledních několika letech viděli v generativní technologii umělé inteligence, která skutečně má užitečné a produktivní aplikace v různých odvětvích. Ale samotná síla – nemluvě o jednoduchosti – této vznikající technologie téměř zaručuje její zneužití těmi, kdo chtějí manipulovat organizacemi, ať už za účelem osobního zisku nebo zasévání společenského chaosu.

organizace umět mít to nejlepší z obou světů: výhody produktivity AI bez nevýhod všudypřítomných deepfakes. To však vyžaduje nový stupeň ostražitosti, zejména s ohledem na skutečnost, že výstupy generativní umělé inteligence jsou den ode dne přesvědčivější, podrobnější a připomínají život. Čím dříve organizace obrátí svou pozornost na tento problém, tím dříve mohou plně využít výhod automatizovaného světa.