Identifikace zdrojů deepfake dat pomocí AI založeného na označování

Spolupráce mezi výzkumníky v Číně, Singapuru a USA vedla k vytvoření odolného systému pro “označování” fotografií obličeje tak robustním způsobem, že identifikační značky nejsou zničeny během procesu tvorby deepfake, což otevírá cestu pro nároky na duševní vlastnictví, které by mohly omezit schopnost syntetických systémů generování obrazů “anonymizovat” nelegitimně získaná zdrojová data.

Systém, nazvaný FakeTagger, používá proces encoder/decoder k vložení vizuálně nerozeznatelných informací o ID do obrazů na dostatečně nízké úrovni, aby vložené informace byly interpretovány jako základní charakteristické údaje obličeje a proto projdou procesy abstrakce nepoškozené, stejně jako například údaje o očích nebo ústech.

Přehled architektury FakeTagger. Zdrojová data se používají k vytvoření ‘redundantní’ charakteristiky obličeje, která ignoruje pozadí, které bude maskováno prostřednictvím typického pracovního postupu deepfake. Zpráva je obnovitelná na konci procesu a rozpoznatelná prostřednictvím příslušného rozpoznávacího algoritmu. Zdroj: http://xujuefei.com/felix_acmmm21_faketagger.pdf

Výzkum pochází ze Školy kybernetické vědy a inženýrství ve Wuhanu, Klíčové laboratoře letecké bezpečnosti a důvěryhodné informatiky na Ministerstvu školství Číny, Alibaba Group v USA, Severovýchodní univerzity v Bostonu a Nanyang Technological University v Singapuru.

Experimentální výsledky s FakeTagger ukazují míru opětovné identifikace až 95 % napříč čtyřmi běžnými typy metodologií deepfake: výměna identity (tj. DeepFaceLab, FaceSwap); opětovné nasazení obličeje; úprava atributů; a celková syntéza.

Slabosti detekce deepfake

Přes to, že posledních tři roky přinesly řadu nových přístupů k metodologiím identifikace deepfake, všechny tyto přístupy se zaměřují na odstranitelné slabiny pracovních postupů deepfake, jako je například světlo v oku v nedostatečně trénovaných modelech, a nedostatek mrknutí v dřívějších deepfakech s nedostatečně rozmanitými sadami obličeje.

Nová práce pozoruje, že nejúčinnější metoda post-facto detekce vyvinutá z nedávné soutěže na detekci deepfake na Facebooku (DFDC) je omezena na 70% přesnosti při zjišťování deepfake v divočině.

Přežití označování jako pomoc při inverzi modelu

Identifikace zdrojových dat z výstupu strojového učení je relativně nová a rostoucí oblast, která umožňuje novou éru litigací založených na duševním vlastnictví, protože současné permissive regulace screen-scrapingu (navržené tak, aby nezabránily národnímu výzkumu v globálním AI ‘závodě ve zbrojení’) se vyvíjejí do přísnějších legislativních předpisů, jak se sektor stává komercializovaným.

Inverze modelu se zabývá mapováním a identifikací zdrojových dat z výstupu generovaného syntetickými systémy v několika oblastech, včetně Natural Language Generation (NLG) a syntézy obrazů.

Post-facto označování

FakeTagger je navržen jako post-procesní přístup.

FakeTagger se snaží vložit obnovitelné charakteristiky ID z různých procesů deepfake.

Vývoj a testování

Výzkumníci otestovali FakeTagger proti několika aplikacím deepfake napříč čtyřmi výše zmíněnými přístupy, včetně nejčastěji používaného repozitáře DeepFaceLab; Stanfordova Face2Face, který může přenést výraz obličeje mezi obrázky a identitami; a STGAN, který může editovat atributy obličeje.

Sčítání nákladů

Výzkumníci poznamenali, že nejobtížnější scénář pro FakeTagger je kompletní syntéza obrazu, jako je například CLIP-založená abstraktní generace, protože vstupní trénovací data jsou v takovém případě podrobeny nejhlubším úrovním abstrakce.

Autorům se podařilo ukázat, že FakeTagger může mít potenciál pro sledování původu v jiných oblastech, jako jsou adverzální útoky na déšť a další typy útoků založených na obrazech, jako je adverzální expozice, mlha, rozmazání, vignettování a barevné rozostření, a že FakeTagger potřebuje přidat redundantní data do obrazů, aby zajistil přežití označení, a že to může mít významnou výpočetní nákladnost v měřítku.

Autorům se podařilo ukázat, že FakeTagger může mít potenciál pro sledování původu v jiných oblastech, jako jsou adverzální útoky na déšť a další typy útoků založených na obrazech, a že FakeTagger může mít potenciál pro sledování původu v jiných oblastech, a že to může mít významnou výpočetní nákladnost v měřítku, a že FakeTagger může mít potenciál pro sledování původu v jiných oblastech, a že to může mít významnou výpočetní nákladnost v měřítku. The authors conclude by noting that FakeTagger may have potential for provenance tracking in other domains, such as adversarial rain attacks and other types of image-based attacks, such as adversarial exposure, haze, blur, vignetting and color-jittering, and that this could have a notable computational cost at scale.