L-identifikazzjoni ta' Sorsi ta' Dejta Deepfake B'Tagging Ibbażat fuq AI

Kollaborazzjoni bejn riċerkaturi fiċ-Ċina, Singapor u l-Istati Uniti pproduċiet sistema reżiljenti għall-'immarkar' tar-ritratti tal-wiċċ b'mod tant robust li l-markaturi ta' identifikazzjoni ma jinqerdux waqt deepfake proċess ta’ taħriġ, li jwitti t-triq għal talbiet ta’ PI li jistgħu jfixklu l-kapaċità ta’ sistemi ta’ ġenerazzjoni ta’ immaġini sintetiċi li ‘jagħmel anonimizzazzjoni’ tad-dejta tas-sors mibruxa b’mod illeġittimu.

Is-sistema, intitolata FakeTagger, juża proċess ta' encoder/decoder biex jinkorpora informazzjoni tal-ID li ma tistax tingħaraf viżwalment f'immaġini f'livell baxx biżżejjed li l-informazzjoni injettata tiġi interpretata bħala data essenzjali tal-karatteristiċi tal-wiċċ, u għalhekk mgħoddija. estrazzjoni tipproċessa intatti, bl-istess mod, pereżempju, bħad-dejta tal-għajnejn jew tal-ħalq.

Ħarsa ġenerali lejn l-arkitettura FakeTagger. Id-dejta tas-sors tintuża biex tiġġenera karatteristika tal-wiċċ 'superfiċjenti', filwaqt li jiġu injorati l-elementi tal-isfond li se jiġu moħbija permezz ta' fluss tax-xogħol deepfake tipiku. Il-messaġġ jista' jiġi rkuprat fit-tarf l-ieħor tal-proċess, u identifikabbli permezz ta' algoritmu ta' rikonoxximent appost. Sors: http://xujuefei.com/felix_acmmm21_faketagger.pdf

Ir-riċerka ġejja mill-Iskola taċ-Ċiber Xjenza u l-Inġinerija f'Wuhan, il-Laboratorju Ewlenin tas-Sigurtà tal-Informazzjoni Aerospazjali u l-Kompjuter Fiduċjarju fil-Ministeru tal-Edukazzjoni taċ-Ċina, il-Grupp Alibaba fl-Istati Uniti, l-Università tal-Grigal f'Boston, u l-Università Teknoloġika ta 'Nanyang f'Singapor.

Riżultati sperimentali b'FakeTagger jindikaw rata ta' identifikazzjoni mill-ġdid sa kważi 95% f'erba' tipi komuni ta' metodoloġiji deepfake: skambju ta' identità (jiġifieri DeepFaceLab, tpartit tal-wiċċ); Reactment tal-wiċċ; editjar tal-attributi; u sinteżi totali.

Nuqqasijiet ta 'Deepfake Detection

Għalkemm l-aħħar tliet snin ġabu a uċuħ ta' approċċi ġodda għall-metodoloġiji ta' identifikazzjoni deepfake, dawn l-approċċi kollha huma importanti għal nuqqasijiet rimedjabbli ta' flussi ta' xogħol deepfake, bħal għajnejk f'mudelli mhux imħarrġa, u nuqqas ta’ teptip f'deepfakes preċedenti b'settijiet ta' wiċċ differenti b'mod inadegwat. Hekk kif ġew identifikati ċwievet ġodda, ir-repożitorji tas-software b'xejn u b'sors miftuħ eliminawhom, jew deliberatament, jew bħala prodott sekondarju ta 'titjib fit-tekniki deepfake.

Il-karta l-ġdida tosserva li l-aktar metodu effettiv ta 'skoperta post-facto prodott mill-kompetizzjoni l-aktar riċenti ta' deepfake detection (DFDC) ta 'Facebook huwa limitat għal 70% preċiżjoni, f'termini ta' spotting deepfakes fis-selvaġġ. Ir-riċerkaturi jattribwixxu dan in-nuqqas rappreżentattiv għal ġeneralizzazzjoni fqira kontra ġodda u innovattivi GAN u sistemi deepfake encoder/decoder, u għall-kwalità ta 'spiss degradata ta' sostituzzjonijiet deepfake.

Fl-aħħar każ, dan jista’ jkun ikkawżat minn xogħol ta’ kwalità baxxa min-naħa ta’ deepfakers, jew artifatti ta’ kompressjoni meta jittellgħu vidjows fuq pjattaformi ta’ qsim li jfittxu li jillimitaw l-ispejjeż tal-bandwidth, u jerġgħu jikkodifikaw vidjows b’rati tal-bit drastikament aktar baxxi mis-sottomissjonijiet. . Ironikament, mhux biss din id-degradazzjoni tal-immaġni mhux jinterferixxi ma 'l-awtentiċità apparenti ta' deepfake, iżda fil-fatt jista 'jtejjeb l-illużjoni, peress li l-video deepfake huwa miġbur f'idjoma viżwali komuni ta' kwalità baxxa li hija pperċepita bħala awtentika.

Tikkettar li jista' jgħix bħala Għajnuna għall-Inverżjoni tal-Mudell

L-identifikazzjoni tad-dejta tas-sors mill-output tat-tagħlim tal-magni hija qasam relattivament ġdid u li qed jikber, u wieħed li jagħmel possibbli era ġdida ta’ litigazzjoni bbażata fuq l-IP, kif attwali tal-gvernijiet. permissiv regolamenti tal-brix tal-iskrin (iddisinjati biex ma joħonqux il-preeminenza tar-riċerka nazzjonali fil-konfront ta ''tellieqa għall-armi') tal-AI) jevolvu f'leġiżlazzjoni aktar stretta hekk kif is-settur isir kummerċjalizzat.

Mudell Inverżjoni jittratta l-immappjar u l-identifikazzjoni tad-dejta tas-sors mill-output iġġenerat minn sistemi ta 'sinteżi f'numru ta' oqsma, inkluż Ġenerazzjoni tal-Lingwa Naturali (NLG) u sinteżi tal-immaġni. L-inverżjoni tal-mudell hija partikolarment effettiva fl-identifikazzjoni mill-ġdid ta 'uċuħ li kienu jew imċajpra, pixelated, jew inkella għamlu triqthom permezz tal-proċess ta' astrazzjoni ta 'Netwerk Adversarju Ġenerattiv jew sistema ta' trasformazzjoni ta 'kodifikatur/decoder bħal DeepFaceLab.

Iż-żieda ta' tikkettjar immirat għal immaġini tal-wiċċ ġodda jew eżistenti hija għajnuna ġdida potenzjali għat-tekniki tal-inverżjoni tal-mudell, bil watermarking qasam emerġenti.

Tikkettjar ta' wara l-fatt

FakeTagger huwa maħsub bħala approċċ ta' wara l-ipproċessar. Pereżempju, meta utent itella’ ritratt f’netwerk soċjali (li normalment jinvolvi xi tip ta’ proċess ta’ ottimizzazzjoni, u rarament trasferiment dirett u mhux adulterat tal-immaġni oriġinali), l-algoritmu jipproċessa l-immaġni biex japplika karatteristiċi li suppost ma jitħassrux fuq il-wiċċ. .

Alternattivament, l-algoritmu jista’ jiġi applikat fuq kollezzjonijiet ta’ immaġini storiċi, kif ġara diversi drabi matul l-aħħar għoxrin sena, hekk kif siti kbar ta’ ġbir ta’ ritratti u stampi kummerċjali fittxew Metodi biex tidentifika kontenut li reġa' ġie użat mingħajr permess.

FakeTagger ifittex li jinkorpora karatteristiċi ta 'ID li jistgħu jiġu rkuprati minn diversi proċessi deepfake.

Żvilupp u Ittestjar

Ir-riċerkaturi ttestjaw FakeTagger kontra numru ta 'applikazzjonijiet tas-softwer deepfake fl-erba' approċċi msemmija hawn fuq, inkluż ir-repożitorju l-aktar użat, DeepFaceLab; Stanford's Face2Face, li jistgħu jittrasferixxu l-espressjonijiet tal-wiċċ bejn immaġini u identitajiet; u STGAN, li jistgħu jeditjaw attributi tal-wiċċ.

L-ittestjar sar bi CelebA-HQ, repożitorju pubbliku mibruxa popolari li fih 30,000 immaġini tal-wiċċ ta 'ċelebritajiet f'diversi riżoluzzjonijiet sa 1024 x 1024 pixel.

Bħala linja bażi, ir-riċerkaturi inizjalment ittestjaw tekniki konvenzjonali ta 'watermarking tal-immaġni, biex jaraw jekk it-tikketti imposti jkampawx mill-proċessi ta' taħriġ ta 'flussi tax-xogħol deepfake, iżda l-metodi fallew fl-erba' approċċi kollha.

Id-dejta inkorporata ta' FakeTagger ġiet injettata fl-istadju tal-kodifikatur fl-immaġini tas-sett tal-wiċċ bl-użu ta' arkitettura bbażata fuq il- U-Net Netwerk konvoluzzjonali għas-segmentazzjoni tal-Immaġini bijomedika, rilaxxat fl-2015. Sussegwentement, is-sezzjoni tad-decoder tal-qafas hija mħarrġa biex issib l-informazzjoni inkorporata.

Il-proċess ġie ppruvat f'simulatur GAN li ssaħħaħ l-applikazzjonijiet/algoritmi FOSS imsemmija qabel, f'ambjent ta 'kaxxa sewda mingħajr aċċess diskret jew speċjali għall-flussi tax-xogħol ta' kull sistema. Sinjali każwali ġew mehmuża mal-immaġini taċ-ċelebritajiet, u illoggjati bħala data relatata ma 'kull immaġini.

F'ambjent ta 'kaxxa sewda, FakeTagger seta' jikseb preċiżjoni li taqbeż it-88.95% fuq l-approċċi tal-erba 'applikazzjonijiet. F'xenarju parallel ta' kaxxa bajda, l-eżattezza żdiedet għal kważi 100%. Madankollu, peress li dan jissuġġerixxi iterazzjonijiet futuri ta 'softwer deepfake li jinkorpora FakeTagger direttament, huwa xenarju improbabbli fil-futur qarib.

Għadd tal-Ispiża

Ir-riċerkaturi jinnotaw li l-aktar xenarju ta 'sfida għal FakeTagger huwa sinteżi ta' immaġni kompluta, bħal ġenerazzjoni astratta bbażata fuq CLIP, peress li d-dejta tat-taħriġ tal-input hija suġġetta għall-livelli l-aktar profondi ta 'estrazzjoni f'każ bħal dan. Madankollu, dan ma japplikax għall-flussi tax-xogħol deepfake li ddominaw l-aħbarijiet matul l-aħħar snin, peress li dawn huma dipendenti fuq riproduzzjoni fidila tal-karatteristiċi tal-wiċċ li jiddefinixxu l-ID.

Id-dokument jinnota wkoll li l-attakkanti avversarji jistgħu konċepibbilment jippruvaw iżidu perturbazzjonijiet, bħal storbju artifiċjali u qamħ, sabiex ifixklu tali sistema ta 'tikkettar, għalkemm dan x'aktarx ikollu effett detrimentali fuq l-awtentiċità tal-produzzjoni deepfake.

Barra minn hekk, huma jinnotaw li FakeTagger jeħtieġ li jżid dejta żejda ma 'xbihat sabiex jiżgura s-sopravivenza tat-tikketti li jinkorpora, u li dan jista' jkollu spiża komputazzjonali notevoli fuq skala kbira.

L-awturi jikkonkludu billi jinnotaw li FakeTagger jista' jkollu potenzjal għal traċċar tal-provenjenza f'oqsma oħra, bħal attakki avversarji tax-xita u tipi oħra ta 'attakki bbażati fuq immaġini, bħal espożizzjoni kontradittorja, haze, ċċajpar, vignettar u, kulur-jittering.