Hur man vet när bildsyntessystem producerar genuint "original" material

En ny studie från Sydkorea har föreslagit en metod för att avgöra om system för bildsyntes producerar genuint nya bilder, eller "mindre" varianter av träningsdata, vilket potentiellt motverkar syftet med sådana arkitekturer (som produktion av nya och originalbilder) .

Mycket ofta, föreslår tidningen, är det senare sant, eftersom de befintliga mått som sådana system använder för att förbättra sin generativa kapacitet under utbildningens gång tvingas gynna bilder som är relativt nära (icke-falska) källbilderna i datamängden .

När allt kommer omkring, om en genererad bild är "visuellt nära" källdata, är den oundvikligen sannolikt bättre för "äkthet" än "originalitet", eftersom den är "trogen" - om den är oinspirerad.

I en sektor som är alltför begynnande och oprövad för att dess juridiska konsekvenser ännu ska vara kända, skulle detta kunna visa sig vara en viktig juridisk fråga, om det visar sig att kommersialiserat syntetiskt bildinnehåll inte skiljer sig tillräckligt från det (ofta) upphovsrättsskyddade källmaterialet som för närvarande är får genomsyra forskningssektorn i form av populära webbskrapade datamängder (potentialen för framtida intrångsanspråk av denna typ har kommit till framträdande ganska nyligen när det gäller Microsofts GitHub Co-Pilot AI).

När det gäller den allt mer sammanhängande och semantiskt robusta produktionen från system som OpenAI:s DALL-E2, Googles Bild, och Kinas CogView släpper (liksom de lägre specificerade dall-e mini), det är väldigt få post fact sätt att på ett tillförlitligt sätt testa originaliteten hos en genererad bild.

Att söka efter några av de mest populära av de nya DALL-E 2-bilderna leder ofta bara till ytterligare instanser av samma bilder, beroende på sökmotorn.

Att ladda upp en komplett DALL-E 9-utdatagrupp med 2 bilder leder bara till fler DALL-E 2-utdatagrupper, eftersom rutnätsstrukturen är den starkaste egenskapen. Separera och ladda upp den första bilden (från detta Twitter-inlägg av den 8 juni 2022, från kontot 'Weird Dall-E Generations') får Google att fixera sig vid basketbollen på bilden och tar den bildbaserade sökningen nerför en semantisk återvändsgränd. För samma bildbaserade sökning verkar Yandex åtminstone göra lite faktisk pixelbaserad dekonstruktion och funktionsmatchning.

Även om Yandex är mer sannolikt än Google Sök att använda den faktiska pass (dvs en bild är härledd/beräknad pass, inte nödvändigtvis ansiktsdrag hos människor) och visuell (snarare än semantiska) egenskaper hos en inlämnad bild för att hitta liknande bilder, alla bildbaserade sökmotorer har antingen någon form av agenda eller praxis som kan göra det svårt att identifiera instanser av källa>genererad plagiat via webbsökningar.

Dessutom kan det hända att träningsdata för en generativ modell inte är allmänt tillgänglig i sin helhet, vilket ytterligare hämmar rättsmedicinska undersökningar av originaliteten hos genererade bilder.

Intressant nog att utföra en bildbaserad webbsökning på en av de syntetiska bilderna som presenterades av Google på dess dedikerad Imagen-webbplats finner absolut ingenting som kan jämföras med bildens motiv, när det gäller att faktiskt titta på bilden och opartiskt söka liknande bilder. Snarare, semantiskt fixerade som alltid, kommer Googles bildsökningsresultat för denna Imagen-bild inte att tillåta en ren bildbaserad webbsökning av bilden utan att lägga till söktermerna 'imagen google' som en ytterligare (och begränsande) parameter:

Yandex, omvänt, hittar en mängd liknande (eller åtminstone visuellt relaterade) verkliga bilder från den konstnärliga amatörgemenskapen:

Generellt sett vore det bättre om nyheten eller originaliteten hos utdata från bildsyntessystem på något sätt kunde mätas, utan att man behöver extrahera särdrag från alla möjliga webbbilder på internet vid den tidpunkt då modellen tränades, eller i icke-offentliga datauppsättningar som kan använda upphovsrättsskyddat material.

Relaterat till denna fråga har forskare från Kim Jaechul Graduate School of AI vid Korea Advanced Institute of Science and Technology (KAIST AI) samarbetat med det globala ICT- och sökföretaget NAVER Corp för att utveckla en Rarity Poäng som kan hjälpa till att identifiera de mer originella skapelserna av bildsyntessystem.

Bilder här genereras via StyleGAN-FFHQ. Från vänster till höger indikerar kolumnerna sämsta till bästa resultat. Vi kan se att "Truncation trick"-måttet (se nedan) och Realism-metriken har sina egna agendor, medan den nya "Rarity"-poängen (översta raden) söker efter sammanhängande men originella bilder (snarare än bara sammanhängande bilder). Eftersom det finns begränsningar för bildstorlek i den här artikeln, se källdokumentet för bättre detaljer och upplösning. Källa: https://arxiv.org/pdf/2206.08549.pdf

Den nya papper har titeln Rarity Score: Ett nytt mått för att utvärdera ovanligheten hos syntetiserade bilder, och kommer från tre forskare vid KAIST och tre från NAVER Corp.

Bortom det "billiga tricket"

Bland de tidigare mätvärdena som den nya tidningen försöker förbättra är "Truncation-tricket" föreslog i 2019 i ett samarbete mellan Storbritanniens Heriot-Watt University och Googles DeepMind.

Trunkeringstricket använder i huvudsak en annan latent fördelning för provtagning än vad som användes för att träna den generativa modellen.

Forskarna som utvecklade den här metoden var förvånade över att den fungerade, men medger i originalartikeln att den minskar mängden genererad produktion. Icke desto mindre har trunkeringstricket blivit effektivt och populärt, i samband med vad som utan tvekan skulle kunna omskrivas som ett "billigt knep" för att erhålla autentiska resultat som inte riktigt assimilerar alla möjligheter som finns i data, och kan liknar källdata mer än vad som önskas.

När det gäller trunkeringstricket observerar den nya tidningens författare:

"[Det] är inte avsett att generera sällsynta prover i träningsdatauppsättningar, utan snarare att syntetisera typiska bilder mer stabilt. Vi antar att befintliga generativa modeller kommer att kunna producera prover rikare i den verkliga datadistributionen om generatorn kan induceras att effektivt producera sällsynta prover.

Av den allmänna tendensen att förlita sig på traditionella mätvärden som Frechet Inception Distance (FID, som fick hård kritik i december 2021), startpoäng (IS) och Kernel Inception Distance (KID) som "framstegsindikatorer" under utbildningen av en generativ modell, kommenterar författarna vidare*:

"Det här inlärningsschemat leder till att generatorn inte syntetiserar mycket sällsynta prover som är unika och har starka egenskaper som inte står för en stor del av den verkliga bildfördelningen. Exempel på sällsynta prover från offentliga datamängder inkluderar personer med olika tillbehör i FFHQ, vita djur i AFHQoch ovanliga statyer i Metfaces.

"Förmågan att generera sällsynta prover är viktig inte bara för att det är relaterat till de generativa modellernas kantkapacitet, utan också för att unikhet spelar en viktig roll i de kreativa applikationerna som virtuella människor.

"Men de kvalitativa resultaten från flera nyare studier innehåller sällan dessa sällsynta exempel. Vi gissar att arten av det kontradiktoriska inlärningsschemat tvingar genererad bilddistribution liknande den för en träningsdatauppsättning. Således tar bilder med tydlig individualitet eller sällsynthet endast en liten del i bilder som syntetiseras av modellerna.'

Teknik

Forskarnas nya Rarity Score anpassar en idé som presenteras i tidigare fungerar - användningen av K-närmaste grannar (KNN) för att representera arrayerna av äkta (tränings) och syntetisk (output) data i ett bildsyntessystem.

Beträffande denna nya analysmetod hävdar författarna:

"Vi antar att vanliga prover skulle vara närmare varandra medan unika och sällsynta prover skulle vara sparsamt placerade i funktionsutrymmet."

Resultatbilden ovan visar de minsta närmaste grannavstånden (NNDs) över till de största, i en StyleGAN-arkitektur tränad på FFHQ.

"För alla datauppsättningar visar prover med de minsta NND:erna representativa och typiska bilder. Tvärtom, proverna med de största NND:erna har stark individualitet och skiljer sig väsentligt från de typiska bilderna med de minsta NND:erna.'

I teorin, genom att använda detta nya mått som en diskriminator, eller åtminstone inkludera det i en mer komplex diskriminatorarkitektur, skulle ett generativt system kunna styras bort från ren imitation mot en mer uppfinningsrik algoritm, samtidigt som man behåller väsentlig sammanhållning av begrepp som kan vara kritiska för autentisk bildproduktion (dvs 'man', 'kvinna', 'bil', 'kyrka', Etc.).

Jämförelser och experiment

I tester gjorde forskarna en jämförelse av Rarity Scores prestanda mot både Truncation Trick och NVIDIAs 2019 Realism poäng, och fann att över en mängd olika ramverk och datauppsättningar kan tillvägagångssättet individualisera "unika" resultat.

Även om resultaten som presenteras i artikeln är för omfattande för att inkludera här, verkar forskarna ha visat förmågan hos den nya metoden att identifiera sällsynthet i både källa (verkliga) och genererade (falska) bilder i en generativ procedur:

Välj exempel från de omfattande visuella resultaten som återges i tidningen (se källans URL ovan för mer information). Till vänster, äkta exempel från FFHQ som har väldigt få nära grannar (dvs. är nya och ovanliga) i den ursprungliga datamängden; till höger, falska bilder genererade av StyleGAN, som den nya metriken har identifierat som verkligt ny. Eftersom det finns begränsningar för bildstorlek i den här artikeln, se källdokumentet för bättre detaljer och upplösning.

Det nya måttvärdet Rarity Score tillåter inte bara möjligheten att identifiera "nya" generativa utdata i en enda arkitektur, utan även, hävdar forskarna, möjliggör jämförelser mellan generativa modeller av olika och varierande arkitekturer (t.ex. autoencoder, VAE, GAN, etc. ).

Artikeln noterar att Rarity Score skiljer sig från tidigare mätvärden genom att koncentrera sig på ett generativt ramverks förmåga att skapa unika och sällsynta bilder, i motsats till "traditionella" mätvärden, som undersöker (ganska mer närsynt) mångfalden mellan generationer under träningen av modellen.

Bortom begränsade uppgifter

Även om den nya artikelns forskare har genomfört tester på ramverk med begränsade domäner (såsom kombinationer av generator/dataset utformade för att specifikt producera bilder av människor eller av katter, till exempel), kan sällsynthetspoängen potentiellt tillämpas på alla godtyckliga bildsyntesförfaranden där det är önskvärt att identifiera genererade exempel som använder distributionerna som härrör från den tränade datan, istället för att öka äktheten (och minska diversiteten) genom att lägga in främmande latenta distributioner, eller förlita sig på andra "genvägar" som äventyrar nyhet till förmån för autenticitet.

I själva verket skulle ett sådant mått potentiellt kunna särskilja verkligt nya utdatainstanser i system som DALL-E-serien, genom att använda identifierat avstånd mellan ett uppenbart "outlier"-resultat, träningsdata och resultat från liknande uppmaningar eller ingångar (dvs. bild -baserade uppmaningar).

I praktiken, och i avsaknad av en tydlig förståelse av i vilken utsträckning systemet verkligen har assimilerat visuella och semantiska begrepp (ofta hindrat av begränsad kunskap om träningsdata), kan detta vara en gångbar metod för att identifiera ett genuint ögonblick av inspiration” i ett generativt system – punkten där ett tillräckligt antal indatakoncept och data har resulterat i något verkligt uppfinningsrikt, istället för något alltför härlett eller nära källdata.

* Mina omvandlingar av författarnas inline-citat till hyperlänkar.

Första gången publicerad 20 juni 2022.