Η γωνία του Anderson

Οι ανιχνευτές deepfake σε νέα πεδία: μοντέλα λανθάνουσας διάχυσης και GAN

Martin Anderson
Προσθέστε το Unite.AI στις προτιμώμενες πηγές σας στο Google
Βασικά σημείαΗ έρευνα ανίχνευσης deepfake μετατοπίζει την εστίαση σε λανθάνοντα μοντέλα διάχυσης…
Δείτε περισσότερα
  • Η έρευνα ανίχνευσης deepfake μετατοπίζει την εστίαση σε λανθάνοντα μοντέλα διάχυσης, όπως το Stable Diffusion και το DALL-E 2.
  • Το Blade Runner προσφέρει έναν ανιχνευτή GAN plug-and-play που χρησιμοποιεί μοτίβα χαρακτηριστικών του προσώπου για οργανισμούς με περιορισμένους πόρους.
  • Το DE-FAKE στοχεύει στην καθολική ανίχνευση και απόδοση εικόνων από μοντέλα διάχυσης κειμένου-σε-εικόνα, χρησιμοποιώντας ενσωματώσεις CLIP.

Άποψη  

Πρόσφατα, η ερευνητική κοινότητα ανίχνευσης deepfake, που από τα τέλη του 2017 ασχολείται σχεδόν αποκλειστικά με το πλαίσιο που βασίζεται σε αυτοκωδικοποιητές και τότε προκάλεσε τόσο θαυμασμό (και ανησυχία) στο κοινό, άρχισε να ενδιαφέρεται από εγκληματολογική σκοπιά για λιγότερο στάσιμες αρχιτεκτονικές, όπως μοντέλα λανθάνουσας διάχυσης, μεταξύ των οποίων τα DALL-E 2 και Stable Diffusion, καθώς και για την έξοδο των παραγωγικών ανταγωνιστικών δικτύων (GAN). Τον Ιούνιο, για παράδειγμα, το UC Berkeley δημοσίευσε τα αποτελέσματα της έρευνάς του για έναν ανιχνευτή της εξόδου του τότε κυρίαρχου DALL-E 2.

Το αυξανόμενο ενδιαφέρον φαίνεται να οφείλεται στο απότομο εξελικτικό άλμα των δυνατοτήτων και της διαθεσιμότητας των μοντέλων λανθάνουσας διάχυσης το 2022: την άνοιξη έγινε η κυκλοφορία του κλειστού κώδικα και περιορισμένης πρόσβασης DALL-E 2, και στα τέλη του καλοκαιριού ακολούθησε η εντυπωσιακή διάθεση ανοικτού κώδικα του Stable Diffusion από τη stability.ai.

Τα GAN έχουν επίσης μελετηθεί επί μακρόν σε αυτό το πλαίσιο, αλλά λιγότερο εντατικά, επειδή είναι πολύ δύσκολο να χρησιμοποιηθούν για πειστικές, περίτεχνες αναπαραστάσεις ανθρώπων σε βίντεο, τουλάχιστον σε σύγκριση με τα πλέον καθιερωμένα πακέτα αυτοκωδικοποιητών όπως τα FaceSwap και DeepFaceLab – και τον συγγενή του τελευταίου για ζωντανή μετάδοση, το DeepFaceLive.

Κινούμενες εικόνες

Και στις δύο περιπτώσεις, κινητήρια δύναμη φαίνεται να είναι η προοπτική μιας επόμενης αναπτυξιακής επιτάχυνσης στη σύνθεση βίντεο. Οι αρχές Οκτωβρίου και η περίοδος των μεγάλων συνεδρίων του 2022 χαρακτηρίστηκαν από καταιγισμό ξαφνικών και απροσδόκητων λύσεων σε χρόνια προβλήματα σύνθεσης βίντεο: μόλις το Facebook δημοσίευσε δείγματα της πλατφόρμας μετατροπής κειμένου σε βίντεο, η Google Research επισκίασε αμέσως τον αρχικό ενθουσιασμό ανακοινώνοντας τη νέα αρχιτεκτονική Imagen-to-Video T2V, που παράγει βίντεο υψηλής ανάλυσης (έστω μόνο μέσω δικτύου επτά επιπέδων αύξησης ανάλυσης).

Αν πιστεύετε ότι τέτοια γεγονότα έρχονται σε τριάδες, σκεφτείτε και την αινιγματική υπόσχεση της stability.ai ότι το βίντεο έρχεται στο Stable Diffusion, προφανώς αργότερα φέτος. Η Runway, που συμμετείχε στην ανάπτυξή του, έδωσε παρόμοια υπόσχεση, αν και δεν είναι σαφές αν αναφέρονται στο ίδιο σύστημα. Το μήνυμα στο Discord του διευθύνοντος συμβούλου της Stability, Emad Mostaque, υποσχόταν επίσης «ήχο, βίντεο [και] 3D».

Με την απροσδόκητη εμφάνιση πολλών νέων πλαισίων παραγωγής ήχου (ορισμένων βασισμένων σε λανθάνουσα διάχυση) και ενός νέου μοντέλου διάχυσης που παράγει αυθεντική κίνηση χαρακτήρων, αρχίζει να κερδίζει έδαφος η ιδέα ότι στατικά πλαίσια όπως τα GAN και τα μοντέλα διάχυσης θα λειτουργήσουν τελικά ως υποστηρικτικά συμπληρώματα εξωτερικών πλαισίων κινουμένων σχεδίων.

Εν ολίγοις, ο περιορισμένος κόσμος των deepfake βίντεο με αυτοκωδικοποιητές, που μπορούν ουσιαστικά να αντικαταστήσουν μόνο το κεντρικό τμήμα ενός προσώπου, πιθανόν μέχρι τέτοια εποχή του χρόνου να έχει επισκιαστεί από νέα γενιά τεχνολογιών deepfake με διάχυση: δημοφιλείς προσεγγίσεις ανοικτού κώδικα με δυνατότητα φωτορεαλιστικής παραποίησης ολόκληρων σωμάτων και σκηνών.

Ίσως γι’ αυτό η κοινότητα έρευνας κατά των deepfake αρχίζει να παίρνει σοβαρά τη σύνθεση εικόνας και να αναγνωρίζει χρήσεις πέρα από την παραγωγή ψεύτικων φωτογραφιών προφίλ στο LinkedIn· και αν το μόνο που μπορούν να προσφέρουν οι δύσχρηστοι λανθάνοντες χώροι στη χρονική κίνηση είναι να λειτουργούν ως εξαιρετικοί αποδότες υφών, αυτό μπορεί στην πραγματικότητα να είναι υπεραρκετό.

Blade Runner

Οι δύο νεότερες εργασίες για την ανίχνευση deepfake με λανθάνουσα διάχυση και GAN, αντίστοιχα, είναι οι DE-FAKE: Ανίχνευση και απόδοση προέλευσης ψεύτικων εικόνων που παράγονται από μοντέλα διάχυσης κειμένου σε εικόνα, συνεργασία του CISPA Helmholtz Center for Information Security με τη Salesforce (CRM ), και BLADERUNNER: Ταχεία αντιμετώπιση συνθετικών προσώπων StyleGAN που παράγονται από AI, του Adam Dorian Wong από το Lincoln Laboratory του MIT.

Πριν εξηγήσει τη νέα μέθοδό της, η δεύτερη εργασία εξετάζει προηγούμενες προσεγγίσεις για να διαπιστωθεί αν μια εικόνα δημιουργήθηκε από GAN. Αφορά συγκεκριμένα την οικογένεια StyleGAN της NVIDIA.

Η μέθοδος Brady Bunch – ίσως μια ακατανόητη αναφορά για όποιον δεν έβλεπε τηλεόραση τη δεκαετία του 1970 ή έχασε τις κινηματογραφικές διασκευές της δεκαετίας του 1990 – εντοπίζει περιεχόμενο παραποιημένο από GAN βάσει των σταθερών θέσεων ορισμένων χαρακτηριστικών του προσώπου, λόγω της επαναληπτικής, τυποποιημένης διαδικασίας παραγωγής.

Η μέθοδος Brady Bunch που παρουσιάστηκε σε διαδικτυακή εκπομπή του SANS Institute το 2022: ένας δημιουργός προσώπων GAN τοποθετεί ορισμένα χαρακτηριστικά με αφύσικη ομοιομορφία, προδίδοντας σε ορισμένες περιπτώσεις τη συνθετική προέλευση της εικόνας.

Η μέθοδος Brady Bunch που παρουσιάστηκε σε διαδικτυακή εκπομπή του SANS Institute το 2022: ένας δημιουργός προσώπων GAN τοποθετεί ορισμένα χαρακτηριστικά με αφύσικη ομοιομορφία, προδίδοντας σε ορισμένες περιπτώσεις τη συνθετική προέλευση της εικόνας. Πηγή: https://arxiv.org/ftp/arxiv/papers/2210/2210.06587.pdf

Άλλη χρήσιμη ένδειξη είναι η συχνή αδυναμία του StyleGAN να αποδώσει πολλά πρόσωπα όταν χρειάζεται (πρώτη εικόνα παρακάτω), η έλλειψη συνοχής στα αξεσουάρ (μεσαία εικόνα) και η τάση να χρησιμοποιεί τη γραμμή των μαλλιών ως αρχή ενός αυτοσχέδιου καπέλου (τρίτη εικόνα).

Η τρίτη μέθοδος που επισημαίνει ο ερευνητής είναι η επικάλυψη φωτογραφιών (παράδειγμα υπάρχει στο άρθρο μας του Αυγούστου για τη διάγνωση ψυχικών διαταραχών με AI). Χρησιμοποιεί λογισμικό σύνθεσης εικόνων όπως η σειρά CombineZ για να συνδυάσει πολλές εικόνες σε μία, συχνά αποκαλύπτοντας κοινά δομικά στοιχεία, πιθανή ένδειξη σύνθεσης.

Η προτεινόμενη αρχιτεκτονική ονομάζεται, ίσως ενάντια σε κάθε συμβουλή SEO, Blade Runner, παραπέμποντας στο τεστ Voight-Kampff που καθορίζει αν οι ανταγωνιστές στη σειρά επιστημονικής φαντασίας είναι ψεύτικοι ή όχι.

Η ροή επεξεργασίας έχει δύο φάσεις. Η πρώτη είναι ο αναλυτής PapersPlease, που αξιολογεί δεδομένα συλλεγμένα από γνωστούς ιστοτόπους προσώπων GAN όπως οι thispersondoesnotexist.com και generated.photos.

Αν και μια περιορισμένη έκδοση του κώδικα είναι διαθέσιμη στο GitHub (βλ. παρακάτω), δίνονται λίγες λεπτομέρειες για τη μονάδα, πέρα από τη χρήση των OpenCV και DLIB για την οριοθέτηση και ανίχνευση προσώπων στο συλλεγμένο υλικό.

Η δεύτερη μονάδα είναι ο ανιχνευτής AmongUs. Αναζητεί συντονισμένη τοποθέτηση ματιών στις φωτογραφίες, επίμονο χαρακτηριστικό των προσώπων StyleGAN που φαίνεται στο παραπάνω σενάριο Brady Bunch. Το AmongUs χρησιμοποιεί τυπικό ανιχνευτή 68 σημείων αναφοράς.

Σημειώσεις χαρακτηριστικών σημείων προσώπου από την Intelligent Behaviour Understanding Group (IBUG), της οποίας ο κώδικας χαρτογράφησης χρησιμοποιείται στο Blade Runner.

Σημειώσεις χαρακτηριστικών σημείων προσώπου από την Intelligent Behaviour Understanding Group (IBUG), της οποίας ο κώδικας χαρτογράφησης χρησιμοποιείται στο Blade Runner.

Το AmongUs βασίζεται σε προεκπαιδευμένα σημεία αναφοράς σύμφωνα με τις γνωστές συντεταγμένες Brady Bunch του PapersPlease και προορίζεται για έλεγχο ενεργών δειγμάτων προσώπων StyleGAN που είναι προσβάσιμα στον ιστό.

Κατά τον συγγραφέα, το Blade Runner είναι έτοιμη προς χρήση λύση για εταιρείες ή οργανισμούς χωρίς πόρους για εσωτερική ανάπτυξη τέτοιας ανίχνευσης deepfake, καθώς και προσωρινό μέτρο που κερδίζει χρόνο για μονιμότερες αντιδράσεις.

Πράγματι, σε έναν τόσο ασταθή και ταχέως αναπτυσσόμενο τομέα ασφάλειας, υπάρχουν λίγες εξατομικευμένες ή έτοιμες λύσεις παρόχων cloud στις οποίες μπορεί σήμερα να στραφεί με εμπιστοσύνη μια εταιρεία περιορισμένων πόρων.

Αν και το Blade Runner αποδίδει άσχημα σε συνθετικά πρόσωπα StyleGAN που φορούν γυαλιά, αυτό είναι σχετικά κοινό πρόβλημα τέτοιων συστημάτων: βασίζονται στα περιγράμματα των ματιών ως κύρια σημεία αναφοράς, τα οποία τότε καλύπτονται.

Μια περιορισμένη έκδοση του Blade Runner έχει κυκλοφορήσει ως ανοικτός κώδικας στο GitHub. Υπάρχει πληρέστερη ιδιόκτητη έκδοση που επεξεργάζεται πολλές φωτογραφίες, αντί για μία ανά λειτουργία στο ανοικτό αποθετήριο. Ο συγγραφέας σκοπεύει να αναβαθμίσει την έκδοση GitHub στο ίδιο επίπεδο όταν το επιτρέψει ο χρόνος. Αναγνωρίζει επίσης ότι το StyleGAN πιθανότατα θα ξεπεράσει τις σημερινές γνωστές αδυναμίες του, οπότε το λογισμικό θα πρέπει να εξελίσσεται παράλληλα.

DE-FAKE

Η αρχιτεκτονική DE-FAKE στοχεύει όχι μόνο στην καθολική ανίχνευση εικόνων από μοντέλα διάχυσης κειμένου σε εικόνα, αλλά και στον προσδιορισμό του ποιο μοντέλο λανθάνουσας διάχυσης (LD) παρήγαγε κάθε εικόνα.

Το πλαίσιο καθολικής ανίχνευσης DE-FAKE καλύπτει τοπικές εικόνες, ένα υβριδικό πλαίσιο (πράσινο) και εικόνες ανοικτού κόσμου (μπλε).

Το πλαίσιο καθολικής ανίχνευσης DE-FAKE καλύπτει τοπικές εικόνες, ένα υβριδικό πλαίσιο (πράσινο) και εικόνες ανοικτού κόσμου (μπλε). Πηγή: http://export.arxiv.org/pdf/2210.06998

Για να είμαστε ειλικρινείς, αυτή τη στιγμή το έργο είναι αρκετά εύκολο, επειδή όλα τα δημοφιλή μοντέλα LD, κλειστού ή ανοικτού κώδικα, έχουν εμφανή διακριτικά χαρακτηριστικά.

Επιπλέον, τα περισσότερα έχουν κοινές αδυναμίες, όπως την τάση να κόβουν κεφάλια, λόγω του αυθαίρετου τρόπου εισαγωγής μη τετράγωνων εικόνων του ιστού στα τεράστια σύνολα δεδομένων που τροφοδοτούν τα DALL-E 2, Stable Diffusion και MidJourney:

Τα μοντέλα λανθάνουσας διάχυσης, όπως όλα τα μοντέλα υπολογιστικής όρασης, απαιτούν τετράγωνη είσοδο. Η μαζική συλλογή δεδομένων ιστού για το LAION5B δεν προσφέρει πρόσθετες δυνατότητες αναγνώρισης και εστίασης σε πρόσωπα ή άλλα αντικείμενα, αλλά περικόπτει απότομα τις εικόνες αντί να προσθέτει περιθώρια, κάτι που θα διατηρούσε ολόκληρη την αρχική εικόνα σε χαμηλότερη ανάλυση. Αφού μαθευτούν στην εκπαίδευση, αυτές οι περικοπές γίνονται κανόνας και εμφανίζονται συχνά στην έξοδο συστημάτων όπως το Stable Diffusion.

Τα μοντέλα λανθάνουσας διάχυσης, όπως όλα τα μοντέλα υπολογιστικής όρασης, απαιτούν τετράγωνη είσοδο. Η μαζική συλλογή δεδομένων ιστού για το LAION5B δεν προσφέρει πρόσθετες δυνατότητες αναγνώρισης και εστίασης σε πρόσωπα ή άλλα αντικείμενα, αλλά περικόπτει απότομα τις εικόνες αντί να προσθέτει περιθώρια, κάτι που θα διατηρούσε ολόκληρη την αρχική εικόνα σε χαμηλότερη ανάλυση. Αφού μαθευτούν στην εκπαίδευση, αυτές οι περικοπές γίνονται κανόνας και εμφανίζονται συχνά στην έξοδο συστημάτων όπως το Stable Diffusion. Πηγές: https://blog.novelai.net/novelai-improvements-on-stable-diffusion-e10d38db82ac και Stable Diffusion.

Το DE-FAKE προορίζεται να είναι ανεξάρτητο από αλγόριθμο, μακροχρόνιος στόχος των ερευνητών κατά των deepfake με αυτοκωδικοποιητές που σήμερα είναι αρκετά εφικτός για τα συστήματα LD.

Η αρχιτεκτονική χρησιμοποιεί την πολυτροπική βιβλιοθήκη Contrastive Language-Image Pretraining της OpenAI (CLIP), ουσιώδες στοιχείο του Stable Diffusion που εξελίσσεται γρήγορα σε πυρήνα της νέας γενιάς σύνθεσης εικόνων και βίντεο, για να εξαγάγει διανυσματικές αναπαραστάσεις από πλαστές εικόνες LD και να εκπαιδεύσει ταξινομητή στα παρατηρούμενα μοτίβα και τις κλάσεις.

Σε ένα περισσότερο αδιαφανές σενάριο, όπου τα τμήματα PNG με πληροφορίες παραγωγής έχουν διαγραφεί κατά τη μεταφόρτωση ή για άλλους λόγους, οι ερευνητές χρησιμοποιούν το πλαίσιο BLIP της Salesforce (συστατικό και τουλάχιστον μίας διανομής Stable Diffusion) για να εξετάσουν στα τυφλά τις εικόνες και να εκτιμήσουν την πιθανή σημασιολογική δομή των προτροπών που τις δημιούργησαν.

Οι ερευνητές χρησιμοποίησαν τα Stable Diffusion, Latent Diffusion (ξεχωριστό προϊόν), GLIDE και DALL-E 2 για να δημιουργήσουν σύνολο εκπαίδευσης και δοκιμών αξιοποιώντας τα MSCOCO και Flickr30k.

Οι ερευνητές χρησιμοποίησαν τα Stable Diffusion, Latent Diffusion (ξεχωριστό προϊόν), GLIDE και DALL-E 2 για να δημιουργήσουν σύνολο εκπαίδευσης και δοκιμών αξιοποιώντας τα MSCOCO και Flickr30k.

Συνήθως θα εξετάζαμε εκτενώς τα αποτελέσματα πειραμάτων ενός νέου πλαισίου. Ωστόσο, τα ευρήματα του DE-FAKE φαίνονται χρησιμότερα ως μελλοντικό σημείο αναφοράς για επόμενες εκδόσεις και παρόμοια έργα παρά ως ουσιαστικό μέτρο επιτυχίας, λόγω του ασταθούς περιβάλλοντος και επειδή το σύστημα σύγκρισης στις δοκιμές είναι σχεδόν τριών ετών, από την πραγματικά πρώιμη εποχή της σύνθεσης εικόνας.

Οι δύο αριστερότερες εικόνες: το προηγούμενο πλαίσιο σύγκρισης του 2019 αποδίδει αναμενόμενα χειρότερα από το DE-FAKE (δύο δεξιότερες εικόνες) στα τέσσερα δοκιμασμένα συστήματα LD.

Οι δύο αριστερότερες εικόνες: το προηγούμενο πλαίσιο σύγκρισης του 2019 αποδίδει αναμενόμενα χειρότερα από το DE-FAKE (δύο δεξιότερες εικόνες) στα τέσσερα δοκιμασμένα συστήματα LD.

Τα αποτελέσματα της ομάδας είναι ιδιαίτερα θετικά για δύο λόγους: υπάρχουν ελάχιστες προηγούμενες εργασίες για σύγκριση, και καμία που να προσφέρει δίκαιη σύγκριση καλύπτοντας τις μόλις δώδεκα εβδομάδες από τη διάθεση του Stable Diffusion ως ανοικτού κώδικα.

Δεύτερον, παρότι η σύνθεση εικόνας LD εξελίσσεται εκθετικά, το περιεχόμενο των σημερινών συστημάτων ουσιαστικά αυτοσημαίνεται λόγω των πολύ προβλέψιμων δομικών αδυναμιών και ιδιομορφιών του. Πολλές από αυτές πιθανόν να διορθωθούν, τουλάχιστον στο Stable Diffusion, με την έκδοση του αποδοτικότερου checkpoint 1.5, δηλαδή του εκπαιδευμένου μοντέλου 4 GB που τροφοδοτεί το σύστημα.

Παράλληλα, η Stability έχει ήδη δείξει σαφή οδικό χάρτη για τα V2 και V3. Με τα πρωτοσέλιδα γεγονότα των τελευταίων τριών μηνών, οποιαδήποτε εταιρική αδράνεια της OpenAI και άλλων ανταγωνιστών στη σύνθεση εικόνας πιθανότατα έχει εξαφανιστεί. Μπορούμε επομένως να περιμένουμε εξίσου γρήγορη πρόοδο και στον χώρο κλειστού κώδικα.

 

Πρώτη δημοσίευση: 14 Οκτωβρίου 2022.

Συγγραφέας στον τομέα της μηχανικής μάθησης, ειδικός σε συνθετικές ανθρώπινες εικόνες. Πρώην επικεφαλής του τμήματος περιεχομένου έρευνας στην Metaphysic.ai, μέχρι τη διάλυσή της στην Brahma.ai της DNEG.
Ιστοσελίδα: martinanderson.ai
Επικοινωνία: martin@martinanderson.ai