Skutečné identity lze obnovit z syntetických dat

Rok 2022 byl okamžikem, kdy potenciál generativních AI poprvé upoutal širokou veřejnost, zatímco rok 2024 je rokem, kdy se otázky o právní stránce jejich podkladových dat dostaly do popředí pro podniky, které chtějí využít jejich sílu.

V USA je doktrína spravedlivého použití spolu s implicitní akademickou licencí, která dlouho umožňovala akademickým a komerčním výzkumným sektorům prozkoumat generativní AI, se stala stále méně udržitelnou, když se objevilo stále více důkazů o plagiátu. Následně USA dočasně zakázaly autorská práva pro obsah generovaný AI.

Těmito záležitostmi je ještě daleko od vyřešení a nejsou ani brzy vyřešeny; v roce 2023, částečně kvůli rostoucímu zájmu médií a veřejnosti o právní status výstupu AI, Úřad pro autorská práva USA zahájil několik let trvající vyšetřování této stránky generativních AI, publikující první část (která se týká digitálních kopií) v červenci 2024.

Mezitím podniky zůstávají frustrovány možností, že drahé modely, které chtějí využít, je mohou vystavit právním důsledkům, až budou nakonec vydána konečná legislativa a definice.

Drahé krátkodobé řešení spočívá v legitimizaci generativních modelů jejich trénováním na datech, která mají společnosti právo využívat. Architektura Adobe Firefly pro text-obrázek (a nyní text-video) je poháněna především jejím nákupem datasetu stock obrázků Fotolia v roce 2014, doplněného o použití vypršeného veřejného doménového dat*. Současně incumbent stock fotografové, jako Getty a Shutterstock, využili novou hodnotu svých licencovaných dat, s rostoucím počtem dohod o licencování obsahu nebo vývoji vlastních IP-kompatibilních systémů GenAI.

Syntetická řešení

Odstranění autorských dat z trénovaného latentního prostoru modelu AI je plné problémů, chyby v této oblasti by mohly být pro společnosti, které experimentují s spotřebitelskými a obchodními řešeními, které využívají strojové učení, velmi nákladné.

Alternativou a mnohem levnějším řešením pro počítačové vidění (a také Large Language Modely, nebo LLM) je použití syntetických dat, kde je dataset složen z náhodně generovaných příkladů cílové domény (jako tváře, kočky, kostely nebo dokonce více obecný dataset).

Weby, jako thispersondoesnotexist.com, už dávno popularizovaly myšlenku, že autenticky vypadající fotografie “nereálných” lidí mohou být syntetizovány (v tomto případě prostřednictvím Generative Adversarial Networks, nebo GAN) bez jakéhokoli vztahu k lidem, kteří skutečně existují ve skutečném světě.

Proto, pokud trénujete systém rozpoznávání tváří nebo generativního systému na takových abstraktních a nereálných příkladech, můžete teoreticky získat fotorealistickou produktivitu modelu AI bez nutnosti zvažovat, zda jsou data právně využitelná.

Rovnováha

Problém spočívá v tom, že systémy, které produkují syntetická data, jsou samy trénovány na reálných datech. Pokud stopy těchto dat prosakují do syntetických dat, potentially poskytuje důkaz, že omezená nebo jinak neoprávněná materiály byly využity pro finanční zisk.

Aby se tomu zabránilo a aby byly produkovány skutečně “náhodné” obrázky, tyto modely potřebují zajistit, aby byly dobře generalizovány. Generalizace je měřítkem schopnosti trénovaného modelu AI intrinsicky pochopit vysoké koncepty (jako ‘tvář’, ‘muž’ nebo ‘‘žena’) bez použití replikace skutečných trénovacích dat.

Bohužel, může být pro trénované systémy obtížné produkovat (nebo rozpoznávat) detailní detaily, pokud se nebudou trénovat dostatečně na datasetu. To vystavuje systém riziku memorizace: tendenci reprodukovat, do jisté míry, příklady skutečných trénovacích dat.

To lze zmírnit nastavením uvolněnější rychlosti učení nebo ukončením tréninku ve fázi, kdy jsou základní koncepty ještě tvárné a nejsou spojeny s žádným konkrétním datovým bodem (jako konkrétní obraz osoby v případě datasetu tváří).

Jednak tyto nápravy pravděpodobně povedou k modelům s méně detailními detaily, protože systém neměl šanci pokročit za “základy” cílové domény a dostat se k specifikům.

Proto, ve vědecké literatuře, jsou obecně aplikovány velmi vysoké rychlosti učení a komplexní tréninkové plány. Zatímco výzkumníci obvykle snaží najít kompromis mezi širokou použitelností a granularitou ve finálním modelu, dokonce i mírně “memorizované” systémy mohou často představovat se jako dobře generalizované – i v počátečních testech.

Odhalení tváří

To nás přivádí k zajímavé nové práci ze Švýcarska, která tvrdí, že je první, kdo prokázal, že původní, reálné obrázky, které pohání syntetická data, lze obnovit z generovaných obrázků, které by měly být teoreticky zcela náhodné:

Příklad tváří prosáklých z trénovacích dat. V horním řádku vidíme původní (reálné) obrázky; v dolním řádku vidíme obrázky generované náhodně, které se shodují významně s reálnými obrázky. Zdroj: https://arxiv.org/pdf/2410.24015

Výsledky, které autoři argumentují, naznačují, že “syntetické” generátory skutečně memorizovaly mnoho trénovacích datových bodů ve svém hledání větší granularity. Také naznačují, že systémy, které se spoléhají na syntetická data, aby chránily producenty AI před právními důsledky, mohou být velmi nespolehlivé v tomto ohledu.

Výzkumníci provedli rozsáhlou studii na šesti státních syntetických datech, prokazující, že ve všech případech lze obnovit původní (potenciálně autorská nebo chráněná) data. Komentují:

‘Naše experimenty prokazují, že státními syntetickými daty rozpoznávání tváří obsahují vzorky, které jsou velmi blízké vzorkům v trénovacích datech jejich generátorových modelů. V některých případech syntetické vzorky obsahují malé změny původního obrazu, nicméně, můžeme také pozorovat v některých případech, že generovaný vzorek obsahuje více variací (například jinou pozici, světelné podmínky atd.), zatímco identita je zachována.

‘To naznačuje, že generátorové modely se učí a memorizují identitu-související informace z trénovacích dat a mohou generovat podobné identity. To vytváří kritické obavy týkající se aplikace syntetických dat v úkolech citlivých na soukromí, jako je biometrie a rozpoznávání tváří.’

Práce se jmenuje Odhalení syntetických tváří: Jak syntetická data mohou prozradit reálné identity, a pochází od dvou výzkumníků z Idiap Research Institute v Martigny, École Polytechnique Fédérale de Lausanne (EPFL) a Université de Lausanne (UNIL) v Lausanne.

Metoda, data a výsledky

Memorizované tváře ve studii byly odhaleny pomocí Membership Inference Attack. Ačkoli koncept zní komplikovaně, je fairly self-explanatory: inference členství, v tomto případě, odkazuje na proces dotazování systému, dokud neodhalí data, která buď odpovídají hledaným datům, nebo se jim významně podobají.

Další příklady odvozených zdrojů dat, ze studie. V tomto případě jsou zdrojové syntetické obrázky z datasetu DCFace.

Výzkumníci studovali šest syntetických dat, pro která byl znám (reálný) zdroj datasetu. Protože obě reálná a falešná data v otázce obsahují velmi vysoké množství obrázků, je to efektivní jako hledání jehly v kupce sena.

Proto autoři použili off-the-shelf model rozpoznávání tváří^† s ResNet100 základem trénovaným na AdaFace funkci ztráty (na WebFace12M datasetu).

Šest syntetických dat použitých bylo: DCFace (latentní difúzní model); IDiff-Face (Uniform – difúzní model založený na FFHQ); IDiff-Face (Two-stage – varianta používající jinou metodu vzorkování); GANDiffFace (založený na Generative Adversarial Networks a difúzních modelech, používající StyleGAN3 pro generování počátečních identit a poté DreamBooth pro vytváření různých příkladů); IDNet (metoda GAN, založená na StyleGAN-ADA); a SFace (rámec chránící identitu).

Příslušné syntetické datové sady byly porovnány s trénovacím datasetem StyleGAN – nejbližší “reálné tváři” původ tohoto sítě.

Autoři vyloučili syntetická data, která používají CGI místo AI metod, a při hodnocení výsledků zanedbali shody pro děti, kvůli distribučním anomáliím v tomto ohledu, jakož i neobrázkové obrázky (které se mohou často vyskytovat v datech tváří, kde systémy pro vyhledávání na webu produkují falešné pozitivy pro objekty nebo artefakty, které mají tváří podobné vlastnosti).

Kosinová podobnost byla vypočtena pro všechny načtené páry a sloučena do histogramů, znázorněných níže:

Histogramové znázornění pro kosinové podobnosti vypočtené napříč různými datovými sadami, spolu s jejich souvisejícími hodnotami podobnosti pro top-k páry (čárkované svislé čáry).

Počet podobností je reprezentován ve špičkách grafu výše. Práce také obsahuje vzorové porovnání ze šesti datových sad a jejich odpovídajících odhadovaných obrázků v původních (reálných) datech, z nichž některé výběry jsou uvedeny níže:

Vzorky z mnoha instancí reprodukovaných v původní práci, na které se odkazuje pro úplnější výběr.

Práce komentuje:

‘[Generované] syntetické datové sady obsahují velmi podobné obrázky z trénovacích dat jejich generátorových modelů, což vyvolává obavy týkající se generování takových identit.’

Autoři poznamenávají, že pro tento konkrétní přístup je pravděpodobně neefektivní škálovat na větší datové sady, protože by byla nutná extrémně náročná výpočetní operace. Poznamenávají dále, že vizuální porovnání bylo nutné k odvození shod, a že automatické rozpoznávání tváří samotné by pravděpodobně nebylo dostatečné pro větší úkol.

Pokud jde o důsledky výzkumu a s ohledem na budoucí směry, práce uvádí:

‘[Chceme] zdůraznit, že hlavní motivací pro generování syntetických dat je řešit obavy týkající se soukromí při používání velkých webových datových sad tváří.

‘Proto, únik jakýchkoli citlivých informací (jako jsou identity reálných obrázků v trénovacích datech) v syntetických datech vyvolává kritické obavy týkající se aplikace syntetických dat pro úkoly citlivé na soukromí, jako je biometrie. Naše studie osvětluje soukromí pasti v generování syntetických dat rozpoznávání tváří a připravuje cestu pro budoucí studie směrem k generování odpovědných syntetických dat tváří.’

Ačkoli autoři slibují vydání kódu pro tuto práci na projektové stránce, není zde žádný aktuální odkaz na repozitář.

Závěr

Poslední mediální pozornost zdůraznila snížení výnosů získaných trénováním modelů AI na datech generovaných AI.

Nový švýcarský výzkum však přináší do popředí úvahu, která může být důležitější pro rostoucí počet společností, které chtějí využít a profitovat z generativních AI – přetrvávání chráněných nebo neoprávněných datových vzorců, i v datech, která jsou navržena k boji proti této praxi. Pokud bychom to měli definovat, v tomto případě by se mohlo jednat o “tváří-washing”.

* Avšak rozhodnutí Adobe umožnit uživatelům nahrávat AI-generované obrázky do Adobe Stock efektivní podkopalo právní “čistotu” těchto dat. Bloomberg tvrdí v dubnu 2024, že uživatelsky dodané obrázky z generativního AI systému MidJourney byly začleněny do schopností Firefly.

^† Tento model není identifikován v práci.

Poprvé publikováno ve středu 6. listopadu 2024