Použití “pravděpodobnosti” jako metriky pro detekci deepfake

Pokud se AI generované video a audio stanou dostatečně dobrými, detekční systémy deepfake založené na vizuálních artefaktech nebo jiných tradičních signálech již nebudou fungovat. Ale vzhledem k tomu, jak zřídka se lidé odchylují od předvídatelného chování, snad by mohla být “pravděpodobnost” přijata jako signál toho, zda je video nebo zpráva o novinkách pravděpodobně pravdivé.

Můj názor Na počátku 90. let minulého století bývalý britský fotbalista a televizní sportovní komentátor David Icke nevinně prozradil v talk show, že je “synem Božím” – podivuhodné a nečekané prozrazení, které by se během následujících desetiletí vyvinulo v trvalou a rozvinutou konspirační teorii o tajné a mocné globální kabale “plazích lidí”.

S internetovým přijetím ještě několik let daleko a s příchodem sociálních médií ještě dále v budoucnosti, mělo naprosté rozporování mezi Ickovým slávou a povahou jeho nových poznatků hluboký dopad na britickou veřejnost – nejen kvůli úplné absenci kontextu nebo jakéhokoli typu přípravy na tento obrovský obrat, od známé a zavedené sportovní osobnosti.

Více než dvacet let později se podobný a mnohem tmavší druh tohoto společenského šoku udál, když byl milovaný charitativní pracovník a televizní moderátor dětí Jimmy Savile posmrtně zjištěn jako sériový a zhýralec životní sexuální delikvent, který využil svou bezúhonnou veřejnou image k usnadnění svých zločinů.

Následující operace Yewtree policejní vyšetřování odhalilo mnoho dalších britských celebrit s dlouhou historií sexuálních deliktů; později by soudní proces s Harveyem Weinsteinem vedl k podobnému objevu celebritních sexuálních delikventů ve Spojených státech, vyvinul se do hnutí #metoo a stal se trvalou součástí americké kultury v akcích, jako je The Morning Show. “Šokující” zprávy se zdají vyvíjet nový a náhlý šablonu – jeden, který by se nakonec stal přijatým deepfake útočníky.

Konec “tradiční” detekce deepfake?

I kdyby sociální média a AI existovaly v počátcích 90. let, žádný prediktivní systém na světě by nemohl předpovědět Ickovo chat-show prozrazení, které (jak si dobře pamatuji) nebylo žádným způsobem naznačeno v letech vedoucích k události.

Ale kdyby AI existoval, možná by to trvalo nějakou dobu, aby se přesvědčila širší veřejnost, že Ickova prohlášení nebyla produktem Google Veo 3 nebo jiného z nové generace hyper-reálných audio/video deepfake rámců.

Jen v posledních 6-12 měsících se AI deepfake metody staly dostatečně účinnými, aby splnily léta médií strašení o deepfake volební interference a schopné generovat typ rychlé útoky na reputaci, které jsou nepravdivé, ale obtížně vymazatelné v stále více credulní kultuře.

Dosud AI video výstup obvykle nedosahuje skutečného realismu, omezený technickými překážkami a stále více polarizovanými rostoucím rozdílem mezi restriktivními západními modely a čínskými necenzurovanými open source vydáními^**.

Nicméně, všímám si stále více v výzkumné literatuře blížící se kapitulace tohoto studené války, například v novém článku Performance Decay in Deepfake Detection^†:

‘[My] předpokládáme, že deepfake videa budou nadále obsahovat strojově učitelné funkce, které spolehlivě rozlišují mezi nimi a skutečnými videi. Jak se schopnosti generativního AI rychle rozvíjejí, toto předpoklad se může rozpadnout.

‘V takové situaci budou watermarking a jiné metody sledování původu nabízet jediný způsob, jak udržet důvěru v digitální média.’

Nicméně, stejný článek uznává, že prokazování původu založené řešení, jako je Adobe vedená Content Authenticity Initiative (a mnoho menších výzkumných nabídek posledních 7-8 let) vyžaduje tak širokou přijetí, aby bylo nerealistické; a článek končí obecnou poznámkou ústupu, pokud ne porážky.

Pokud jsou metody detekce deepfake založené na audio-vizuálních artefaktech překonány generativním AI a globální přijetí watermarkingu nebo schématu původu padne na různé logistické překážky, jaký společný centrální rys by mohl nahradit je jako indikátory potenciálně padělaného výstupu? Nebo musíme rezignovat na svět, kde je všechna média sporná a Liar’s Dividend převládá?

Knowledge Graphs

Zdá se, že je čas více hluboce využít pravděpodobnost a pravděpodobnost “zprávy” jako signální charakteristiku v detekci deepfake. Kromě toho, protože video a audio generativní AI systémy se stále více sbližují, může být také čas pro samostatné výzkumné směry “fake news” (jako textově založenou narativní událost) a fake obrazů/ videí, aby se podobně sbližovaly.

Pravděpodobnost metrika deepfake není stejná jako RAG-pomocná ověření faktů, kde AI model může přinést aktuální webové výsledky, aby získal znalosti o událostech, které se vyskytly po jeho vlastním datumu omezení, a/nebo aby potvrdil svá tvrzení.

Rather, by prováděl předpovědi založené na obecně indikativních statistických trendech, odvozených z historických vzorců, které odpovídají aktuálnímu dotazu.

V tomto smyslu je pravděpodobnostní metoda bližší statistické analýze než modernějším přístupům v současné scéně strojového učení.

Ačkoli dříve byly zatměny modernějšími přístupy z éry Transformerů, knowledge grafy dělají něco jako návrat v podnikovém prostoru a zdají se být přizpůsobeny potenciálnímu nasazení “pravděpodobnosti” metrik v detekci deepfake.

Zjednodušený knowledge graf ilustrující, jak lidé, místa, umělecká díla a události mohou být propojeny prostřednictvím označených vztahů, umožňujících strojům rozumět reálným entitám a jejich souvislostem. Source

Knowledge graf je způsob, jak organizovat informace mapováním reálných věcí, jako jsou lidé, společnosti, události nebo nápady, do sítě propojených faktů.

Každá sub-entita je uzlem a odkazy mezi nimi (hrany) popisují, jak jsou propojeny. Například “Microsoft (MSFT ) ” (uzel) by mohl být propojen s “OpenAI” (jiným uzlem) hranou, která říká “je klientem”. Tyto souvislosti jsou často uloženy v grafových databázích a následují subjekt-predikát-objekt strukturu, jako “Microsoft je klientem OpenAI”.

Persistentní paměť

Jedna čínská studie z září tohoto roku navrhla metodu bez školení, která používá grafické odůvodňování k detekci jemných nesrovnalostí v multimodálních deepfakech.

Místo generování odůvodnění nebo jemného ladění velkých modelů, systém načte obraz-textové páry, postaví podobnostní graf a ohodnotí souvislosti, aby načetl nejrelevantnější příklady, a tyto příklady vedou modelovo úsudku bez potřeby nového školení:

Přehled rámce GASP-ICL, který zlepšuje detekci deepfake kombinací grafického výběru vzorků s učením v kontextu, umožňující zmrazenému modelu vision-language klasifikovat obraz-textové páry jako reálné nebo falešné, bez školení nebo jemného ladění.  Source

Toto je pravděpodobně nejbližší práce, která mi přišla, k “informovanému” a historicky vědomému přístupu k hodnocení a verifikaci nových médií. Pro většinu počítačových vizuálních přístupů se stále analyzují obrázky (včetně snímků videa a časových anomálií zahrnujících více snímků) zatímco “fake news” detekční rámce pokračují ve zdůrazňování textově založených dat, i v multimodálních projektech.

Feature Creep

Výzvou prediktivního systému tohoto typu je rozsah dohledu, který by mohl být nezbytný pro to, aby se přístup stal plně funkčním – alespoň za hranicemi analýzy celebrit a veřejných osobností, pro které již existují volně dostupné údaje.

Pravděpodobně nejpodobnější současný směr ve výzkumu je pole předzločinu, které označuje různé multimodální inteligence signály jako “podezřelé” a představuje se jako statečný AI strašák v akcích, jako je Jonathan Nolanův Person of Interest (2011-2016) a Steven Spielbergův Minority Report (2002).

Zatímco Person of Interest-style omnivorous dohledový systém by produkoval optimální výsledky, je nepravděpodobné, že by západní kultura mohla sankcionovat úroveň osobní invazivity, kterou čínské vnitřní sítě uvalují na své občany.

Proto, pokud jde o potenciální falešné zprávy o ne-celebritách, pouze vládní agentury, jako je policie (stejně jako registry narození a úmrtí a daňové úřady), by měly dostatečné historické informace, aby informovaly pravděpodobnosti v grafickém workflow; a dokonce by potřebovaly CCCP-styl vůli, kapacitu, legislativu a zdroje, aby zahrnuly průměrné občany do svého pokrytí a analýz (tj. za hranicemi banálních, ale povinných údajů, jako jsou číslo pasu a registrace vozidla).

Pravděpodobnostní hodnocení

Zdá se, že potenciální účinnost systému tohoto typu by byla omezena na nejzřetelnější (současné) použití deepfake obsahu: destabilizace (státem podporované deepfakes); celebrity a ‘neznámé’ pornografické deepfakes (které lze považovat za škodlivé, i když druhý případ tenduje k hlubšímu mediálnímu zájmu); podvod (včetně audio/video deepfakes navržených k provedení ‘impersonation heistů’); a politická charakterová vražda.

Knowledge-based systém by potřeboval škálu pravděpodobností pro různorodost možných událostí. Na jedné straně spektra, běžné lidské selhání, jako je sporné finanční řízení, nevěra, závislost, nevhodné chování atd.; na druhé straně… odhalení, že jste synem Božím v živém televizním talk show (nebo události podobného rozsahu a dopadu).

Even v posledním případě by osobní historické faktory pro každou jednotlivou osobu vážil výsledek pravděpodobnosti: prominentní politická osobnost, která veřejně rozmělňovala v kontroverzních otázkách (jako je pravdivost lunárních přistání v 60. a 70. letech), aby získala kapitál s stále více ‘alternativně informovaným‘ voličstvem, by mohla získat další wildcard status v ověřovacích rutinách, ve srovnání se svými více střídmostmi kolegy.

V případě celebrity porna existuje dostatečný reálný kontext (tj. 2012 celebrity photo leaks, mezi jinými – poměrně vzácnými – incidenty) k vygenerování středního Liar’s Dividendu, v určitých kontextech; ale protože tyto outlying incidenty tendují k fungování jako výjimky, které potvrzují pravidlo, většina současné vlny difúzních celebrity pornografických videí by byla považována za extrémně “nepříliš pravděpodobné” (i když to nevyřeší problém přivlastňování se identitám pro tyto účely).

V případě národního rozrušení existuje značné bohatství statistických dat, které mohou pomoci při hodnocení pravděpodobností “katastrofických” zpráv. I v dávné historii, zdánlivě “z ničeho nic” události, jako je sopečná erupce neznámé sopky Vesuvius v 79 n. l., byly předznamenány, pokud jste dostatečně pozorně sledovali; a kromě dostupnosti mnoha vládních a nevládních zdrojů, AI se vyvíjí kapacita extrahovat strukturu z surových dat může poskytnout další historický kontext pro pravděpodobnostní hodnocení.

Závěr

I dobře implementovaný prediktivní systém tohoto typu by nemohl zohlednit náhodné štěstí, Boží úkazy, výjimečné události nebo škodlivé události vytvořené mimo jakoukoli kontrolu.

Dále, obrovský objem a hloubka dat, které by byly potřebné, aby se poskytl pokrytí i pro nefamous lidi, by byla politickou překážkou – alespoň prozatím.

Nicméně, výběr se zužuje; vizuální analýza je na pokraji selhání tváří v tvář zlepšenému generativnímu AI, zatímco ověřovací a prokazování původu schémata nesou zatěžující technický dluh a tření proti přijetí. To činí řešení, jako je Content Authenticity Initiative, a nenaplněný Metaphysic.ai face-copyrighting systém Metaphysic Pro, náročné na popularizaci.

V jejich nejširším použití, RAG-založené systémy mohou pouze určit, zda autoritativní zdroj podporuje neověřené tvrzení; a protože mnoho velkých (pravdivých) zpráv se objevuje bez předchozího kontextu, absence prokazování z autoritativních zdrojů není nutně významná.

Jeho hodnota se může ukázat větší, pokud mohou tvořit součást větší datové ekosféry, která se zabývá tím, co většina současných forem AI nachází obtížným – historickým kontextem.

* Není třeba zaměňovat s ranými autoencoder výstupy, které debutovaly v roce 2017 a byly později nahrazeny lepších přístupy.

^† https://arxiv.org/abs/2511.07009

^** Které mohou běžet obvykle zdarma na více výkonných domácích PC, místo toho, aby byly dostupné pouze prostřednictvím bránou chráněných API, jako je ChatGPT a série Veo.

^††† Vylučující legitimní zábavní použití, jako je profesionální vizuální efekty ve filmových a televizních produkcích.

Poprvé zveřejněno ve čtvrtek, 13. listopadu 2025