Κωδικοποίηση Εικόνων κατά της Χρήσης σε Συστήματα Deepfake και Συνθέσεως Εικόνων

Η πιο γνωστή γραμμή έρευνας στον αναπτυσσόμενο τομέα της αντι-μεταποίησης ασχολείται με συστήματα που μπορούν να αναγνωρίσουν τέχνεργα ή άλλα υποτιθέμενα διακριτικά χαρακτηριστικά των deepfaked, συνθετικών ή άλλως ψευδών ή «επεξεργασμένων» προσώπων σε βίντεο και περιεχόμενο εικόνων.

Συχνά αυτές οι προσεγγίσεις χρησιμοποιούν διάφορες τακτικές, συμπεριλαμβανομένης της ανίχνευσης βάθους, διατάραξης της κανονικότητας του βίντεο, μεταβολών στη φωτισμό του монιτόρ (σε πιθανώς deepfaked ζωντανούς κλήσεις βίντεο), βιομετρικών χαρακτηριστικών, εξωτερικών περιοχών του προσώπου και ακόμη και τις κρυφές δυνάμεις του υποσυνειδήμου συστήματος.

Αυτά, και παρόμοιες μεθόδους, έχουν κοινό ότι μέχρι τη στιγμή που αναπτύσσονται, τα κεντρικά μηχανισμοί που πολεμούν έχουν ήδη εκπαιδευτεί με επιτυχία σε χιλιάδες ή εκατοντάδες χιλιάδες εικόνες που έχουν σκαφτεί από το διαδίκτυο – εικόνες από τις οποίες τα συστήματα autoencoder μπορούν εύκολα να εξαγάγουν βασικά χαρακτηριστικά και να δημιουργήσουν μοντέλα που μπορούν να επιβάλλουν μια ψευδή ταυτότητα σε βίντεο ή συνθετικές εικόνες – ακόμη και πραγματικού χρόνου.

Σύντομα, μέχρι τη στιγμή που τέτοιες συστήματα είναι ενεργά, το άλογο έχει ήδη ξεγλιστρήσει.

Εικόνες που Είναι Εχθρικές προς τις Αρχιτεκτονικές Deepfake/Σύνθεσης

Με την προσέγγιση ενός πιο προληπτικού στάτους απέναντι στην απειλή των deepfakes και της σύνθεσης εικόνων, μια λιγότερο γνωστή γραμμή έρευνας σε αυτόν τον τομέα ασχολείται με τις δυνατότητες που εμπεριέχονται στην κωδικοποίηση όλων αυτών των πηγαίων φωτογραφιών αντι-φιλικών προς τα συστήματα σύνθεσης εικόνων, συνήθως με αόρατες ή ελάχιστα ορατές τρόπους.

Παραδείγματα περιλαμβάνουν FakeTagger, μια πρόταση του 2021 από διάφορες ιδρύματα στις ΗΠΑ και στην Ασία, η οποία κωδικοποιεί μηνύματα σε εικόνες· αυτές οι κωδικοποιήσεις είναι ανθεκτικές στη διαδικασία της γενίκευσης και μπορούν να ανακτηθούν ακόμη και μετά την εικόνα έχει σκαφτεί από το διαδίκτυο και έχει εκπαιδευτεί σε ένα Δίκτυο Ανταγωνιστικών Γεννητριών (GAN) του τύπου που ενσωματώνεται από το thispersondoesnotexist.com και τις πολλές παραλλαγές του.

FakeTagger κωδικοποιεί πληροφορίες που μπορούν να επιβιώσουν της διαδικασίας της γενίκευσης κατά την εκπαίδευση ενός GAN, καθιστώντας δυνατή την γνώση εάν μια συγκεκριμένη εικόνα συνεισέφερε στις γεννητικές ικανότητες του συστήματος. Πηγή: https://arxiv.org/pdf/2009.09869.pdf

Για το ICCV 2021, μια άλλη διεθνής προσπάθεια ίδρυσε τεχνητά δακτυλικά αποτυπώματα για γεννητικά μοντέλα, (βλέπε εικόνα παρακάτω) τα οποία επίσης παράγουν ανακτήσιμα «δακτυλικά αποτυπώματα» από την έξοδο ενός GAN σύνθεσης εικόνων όπως το StyleGAN2.

Ακόμη και υπό μια ποικιλία ακραίων χειρισμών, περικοπών και ανταλλαγής προσώπων, τα δακτυλικά αποτυπώματα που περνούν από το ProGAN παραμένουν ανακτήσιμα. Πηγή: https://arxiv.org/pdf/2007.08457.pdf

Άλλες εκδοχές αυτής της концепції περιλαμβάνουν ένα έργο του 2018 από την IBM και ένα ψηφιακό σχήμα υδατογράφησης την ίδια χρονιά, από την Ιαπωνία.

Περισσότερο καινοτόμα, μια προσπάθεια του 2021 από το Πανεπιστήμιο Αεροναυπηγικής και Αστροναυτικής της Ναντζίνγκ ζήτησε να «κρυπτογραφήσει» εικόνες εκπαίδευσης με τέτοιο τρόπο που θα εκπαιδεύονταν αποτελεσματικά μόνο σε εξουσιοδοτημένα συστήματα, αλλά θα αποτύγχαναν καταστροφικά εάν χρησιμοποιούνταν ως πηγαίο δεδομένο σε μια γενική διαδικασία εκπαίδευσης σύνθεσης εικόνων.

Εфективικά, όλες αυτές οι μέθοδοι ανήκουν στην κατηγορία της στεγανографίας, αλλά σε όλες τις περιπτώσεις η μοναδική αναγνωριστική πληροφορία στις εικόνες πρέπει να κωδικοποιείται ως τέτοιο απαραίτητο «χαρακτηριστικό» μιας εικόνας που δεν υπάρχει καμία πιθανότητα ότι ένα autoencoder ή GAN αρχιτεκτονική θα απορρίψει τέτοιες αποτυπώσεις ως «θόρυβο» ή περιττή δεδομένα, αλλά θα τις κωδικοποιήσει μαζί με άλλα χαρακτηριστικά του προσώπου.

Την ίδια στιγμή, η διαδικασία δεν πρέπει να επιτρέπεται να παραμορφώνει ή να επηρεάζει οπτικά την εικόνα τόσο πολύ που να θεωρείται από τους καθημερινούς θεατές ότι έχει ελαττώματα ή είναι χαμηλής ποιότητας.

TAFIM

Τώρα, μια νέα γερμανική ερευνητική προσπάθεια (από το Τεχνικό Πανεπιστήμιο του Μονάχου και τη Sony Europe RDC Stuttgart) έχει προτείνει μια τεχνική κωδικοποίησης εικόνων με την οποία τα μοντέλα deepfake ή StyleGAN-τύπου που εκπαιδεύονται σε επεξεργασμένες εικόνες θα παράγουν αχρήστη γαλάζια ή λευκή έξοδο, αντίστοιχα.

Οι χαμηλού επιπέδου διαταραχές εικόνας του TAFIM αντιμετωπίζουν διάφορους πιθανούς τύπους παραμόρφωσης/αντικατάστασης προσώπου, αναγκάζοντας τα μοντέλα που εκπαιδεύονται στις εικόνες να παράγουν παραμορφωμένη έξοδο, και αναφέρεται από τους συγγραφείς ότι είναι εφαρμόσιμη ακόμη και σε πραγματικές συνθήκες όπως η πραγματικού χρόνου ροή deepfake του DeepFaceLive. Πηγή: https://arxiv.org/pdf/2112.09151.pdf

Το έγγραφο, με τίτλο TAFIM: Στόχευση Αντι-Επιθέσεων κατά των Παραμορφώσεων Εικόνας, χρησιμοποιεί ένα νευρωνικό δίκτυο για να κωδικοποιήσει ελάχιστα ορατές διαταραχές σε εικόνες. Μετά την εκπαίδευση και τη γενίκευση των εικόνων σε μια αρχιτεκτονική σύνθεσης, το μοντέλο θα παράγει αποχρωματισμένη έξοδο για την ταυτότητα εισόδου εάν χρησιμοποιηθεί είτε σε ανάμιξη στυλ είτε σε απλή ανταλλαγή προσώπου.

Επαν-Κωδικοποίηση του Διαδικτύου..?

Ωστόσο, σε αυτήν την περίπτωση, δεν είμαστε εδώ για να εξετάσουμε τις λεπτομέρειες και την αρχιτεκτονική της τελευταίας εκδοχής αυτής της δημοφιλούς концепції, αλλά να σκεφτούμε τη πρακτικότητα της ολόκληρης ιδέας – ιδιαίτερα υπό το φως της αυξανόμενης διαμάχης σχετικά με τη χρήση δημοσίως σκαφισμένων εικόνων για να τροφοδοτήσουν συστήματα σύνθεσης εικόνων όπως η Stable Diffusion, και τις συνεπαγόμενα νομικές επιπτώσεις της ανάπτυξης εμπορικού λογισμικού από περιεχόμενο που μπορεί (σε ορισμένες δικαιοδοσίες) να αποδειχθεί ότι έχει νομική προστασία κατά της κατάποσης σε αρχιτεκτονικές σύνθεσης AI.

Προληπτικές, κωδικοποιημένες προσεγγίσεις του τύπου που περιγράφηκαν παραπάνω έρχονται με keinen μικρό κόστος. Τουλάχιστον, θα涉άζουν την εισαγωγή νέων και επεκταμένων ρουτινών συμπίεσης σε τυποποιημένες βιβλιοθήκες διαδικτύου όπως η ImageMagick, οι οποίες τροφοδοτούν μεγάλο αριθμό διαδικασιών ανέβασματος, συμπεριλαμβανομένων πολλών διεπαφών ανέβασματος σε κοινωνικά μέσα, που έχουν ανατεθεί να μετατρέπουν υπερμεγέθεις αρχικές εικόνες χρηστών σε βελτιωμένες εκδόσεις που είναι πιο κατάλληλες για ελαφριά κοινή χρήση και διανομή δικτύου, και επίσης για να επιφέρουν μετασχηματισμούς όπως περικοπές και άλλες επεκτάσεις.

Η πρωταρχική ερώτηση που αυτό προκαλεί είναι: θα εφαρμοστεί τέτοιο σχήμα «προς τα εμπρός» ή θα υπάρξει ευρύτερη και αναδρομική ανάπτυξη, που θα αντιμετωπίζει ιστορικό περιεχόμενο που μπορεί να ήταν διαθέσιμο, «ακαθάρτο», για δεκαετίες;

Πλατφόρμες όπως η Netflix δεν δεν είναι αντίθετες στο κόστος της επανα-κωδικοποίησης ενός αρχείου με νέους κωδικοποιητές που μπορεί να είναι πιο αποτελεσματικοί ή θα μπορούσαν να προσφέρουν οφέλη για τους χρήστες ή τους παρόχους· επίσης, η μετατροπή του ιστορικού περιεχομένου του YouTube στο codec H.264, φαινομενικά για να εξυπηρετήσει την Apple TV, μια εργασία με μεγάλη κλίμακα, δεν θεωρήθηκε ότι είναι προβληματική, παρά το μέγεθος.

Παραδοξικά, ακόμη και αν μεγάλα τμήματα του περιεχομένου των μέσων στο διαδίκτυο θα γίνουν αντικείμενο επανα-κωδικοποίησης σε μορφή που αντιστέκεται στην εκπαίδευση, ο περιορισμένος κύκλος επιρροής των συνόλων δεδομένων θα παραμείνει ανεπηρέαστος. Ωστόσο, συστήματα που τα χρησιμοποιούν ως δεδομένα ροής θα αρχίσουν να μειώνονται στην ποιότητα της έξοδου, καθώς το περιεχόμενο με υδατογράφημα θα παρεμβαίνει στις διαδικασίες μετασχηματισμού των αρχιτεκτονικών.

Πολιτικός Συγκρουσμός

Σε πολιτικούς όρους, υπάρχει μια εμφανής ένταση μεταξύ της απόφασης των κυβερνήσεων να μην μείνουν πίσω στην ανάπτυξη της τεχνολογίας AI και να κάνουν παραχωρήσεις στις δημόσιες ανησυχίες σχετικά με τη χρήση των δημόσια διαθέσιμων ήχου, βίντεο και περιεχομένου εικόνων στο διαδίκτυο ως πλούσια πηγή για συστήματα μετασχηματισμού AI.

Επίσημα, οι δυτικές κυβερνήσεις είναι προκατειλημμένες υπέρ της ανοχής όσον αφορά την ικανότητα του τομέα της όρασης υπολογιστή να χρησιμοποιήσει δημόσια διαθέσιμο περιεχόμενο, όχι τουλάχιστον επειδή ορισμένες από τις πιο αυταρχικές ασιατικές χώρες έχουν πολύ μεγαλύτερη ελευθερία να διαμορφώσουν τις ροές εργασίας τους με τρόπο που να ωφελεί τις δικές τους ερευνητικές προσπάθειες – μόνο μια από τις παράμετρους που παρατηρούν ότι η Κίνα γίνεται ο παγκόσμιος ηγέτης στην τεχνολογία AI.

Τον Απρίλιο του 2022, το Αμερικανικό Εφετείο επιβεβαίωσε ότι τα δημόσια δεδομένα του διαδικτύου είναι δίκαιη παιχνίδι για ερευνητικούς σκοπούς, παρά τις συνεχείς διαμαρτυρίες του LinkedIn, το οποίο επιθυμεί τα προφίλ των χρηστών του να προστατεύονται από τέτοιες διαδικασίες.

Εάν, λοιπόν, οι εικόνες που αντιστέκονται στην εκπαίδευση δεν θα γίνουν ένα σύστημα-πλάνο, δεν υπάρχει τίποτα που να εμποδίζει ορισμένες από τις μεγάλες πηγές δεδομένων εκπαίδευσης να εφαρμόσουν τέτοιους μηχανισμούς, ώστε η δική τους έξοδος να γίνει ανεπιτυχής στο latent χώρο.

Ο βασικός παράγοντας σε τέτοιες εταιρικές εφαρμογές είναι ότι οι εικόνες πρέπει να είναι φυσικά ανθεκτικές στην εκπαίδευση. Τεχνικές αποδοχής με βάση το blockchain και κινήσεις όπως η Προσπάθεια Αυθεντικότητας Περιεχομένου ασχολούνται περισσότερο με το να αποδείξουν ότι οι εικόνες έχουν ψευδευθεί ή «στιλ-GANned», παρά με το να εμποδίσουν τις μηχανισμοί που κάνουν τέτοιες μετασχηματώσεις δυνατές.

Επιφανειακή Επιθεώρηση

Ενώ έχουν προταθεί προτάσεις για τη χρήση μεθόδων blockchain για να πιστοποιήσουν την αληθινή προέλευση και εμφάνιση μιας πηγαίας εικόνας που μπορεί να έχει ανακτηθεί αργότερα σε ένα σύνολο δεδομένων εκπαίδευσης, αυτό δεν εμποδίζει την ίδια την εκπαίδευση των εικόνων ή δεν παρέχει κανένα τρόπο να αποδείξει, από την έξοδο τέτοιων συστημάτων, ότι οι εικόνες περιλαμβάνονταν στο σύνολο δεδομένων εκπαίδευσης.

Σε μια προσέγγιση υδατογράφησης για την αποκλεισμό εικόνων από την εκπαίδευση, θα ήταν σημαντικό να μην βασιστείτε στην πηγή εικόνων ενός επιρροήματος συνόλου δεδομένων να είναι δημόσια διαθέσιμη για επιθεώρηση. Σε απάντηση εκκλήσεων καλλιτεχνών σχετικά με την ελεύθερη κατάποση του Stable Diffusion του έργου τους, η ιστοσελίδα haveibeentrained.com επιτρέπει στους χρήστες να ανεβάζουν εικόνες και να ελέγχουν εάν είναι πιθανό να έχουν περιληφθεί στο σύνολο δεδομένων LAION5B που τροφοδοτεί το Stable Diffusion:

Η ‘Lenna’, κυριολεκτικά το κορίτσι του εξωφύλλου για την έρευνα της όρασης υπολογιστή μέχρι πρόσφατα, είναι σίγουρα μια συνεισφέρουσα στο Stable Diffusion. Πηγή: https://haveibeentrained.com/

Ωστόσο, σχεδόν όλα τα παραδοσιακά σύνολα δεδομένων deepfake, για παράδειγμα, λαμβάνονται εύκολα από εξαγόμενα βίντεο και εικόνες στο διαδίκτυο, σε μη δημόσιες βάσεις δεδομένων όπου μόνο的一種 νευρωνική ανθεκτική υδατογράφηση θα μπορούσε να εκθέσει τη χρήση συγκεκριμένων εικόνων για τη δημιουργία των παραγώγων εικόνων και βίντεο.

Παραπέρα, οι χρήστες του Stable Diffusion αρχίζουν να προσθέτουν περιεχόμενο – είτε μέσω της εκπαίδευσης (συνεχίζοντας την εκπαίδευση του επίσημου σημείου μοντέλου με πρόσθετες ζευγάρια εικόνων/κειμένου) είτε μέσω της Textual Inversion, η οποία προσθέτει ένα συγκεκριμένο στοιχείο ή πρόσωπο – που δεν θα εμφανιστεί σε κανένα έλεγχο στο LAION’s δισεκατομμύρια εικόνων.

Ενσωμάτωση Υδατογράφων στην Πηγή

Μια ακόμη πιο ακραία πιθανή εφαρμογή της υδατογράφησης πηγαίας εικόνας είναι να περιλαμβάνει κρυφές και μη ορατές πληροφορίες στη сыρή έξοδο, βίντεο ή εικόνες, εμπορικών καμερών. Αν και η концепτός πειραματίστηκε και εφαρμόστηκε με κάποια ευγένεια στις αρχές της δεκαετίας του 2000, ως απάντηση στην αναδυόμενη «απειλή» της πειρατείας πολυμέσων, ο αρχικός στόχος είναι τεχνικά εφαρμόσιμος και για το σκοπό της κάνωντας το περιεχόμενο των μέσων ανθεκτικό ή αποτρεπτικό για συστήματα εκπαίδευσης μηχανικής μάθησης.

Μια εφαρμογή, που προτάθηκε σε μια αίτηση πατέντας από τα τέλη της δεκαετίας του 1990, πρότεινε τη χρήση Διακριτών Μετασχηματισμών Κόσινου για να ενσωματώσει στεγανографικά «υπο-εικόνες» σε βίντεο και στατικές εικόνες, υποδεικνύοντας ότι η ρουτίνα θα μπορούσε να «ενσωματωθεί ως ενσωματωμένη λειτουργία για ψηφιακές συσκευές εγγραφής, όπως στατικές και βίντεο κάμερες».

Σε μια αίτηση πατέντας από τα τέλη της δεκαετίας του 1990, η Lenna ενσωματώνει κρυφές υδατογράφηση που μπορούν να ανακτηθούν ανάγκη. Πηγή: https://www.freepatentsonline.com/6983057.pdf

Μια λιγότερο πολύπλοκη προσέγγιση είναι να επιβάλλει σαφώς ορατές υδατογράφηση σε εικόνες σε επίπεδο συσκευής – μια λειτουργία που δεν είναι ελκυστική για τους περισσότερους χρήστες και περιττή σε περίπτωση καλλιτεχνών και επαγγελματιών των μέσων, οι οποίοι είναι σε θέση να προστατεύσουν τα πηγαία δεδομένα και να προσθέσουν τέτοιου είδους branding ή απαγορεύσεις όπως κρίνουν σκόπιμο (τουλάχιστον, εταιρείες εικόνων).

Αν και τουλάχιστον μία κάμερα σήμερα επιτρέπει την προαιρετική επιβολή υδατογράφησης με βάση λογότυπο που θα μπορούσε να σηματοδοτήσει μη εξουσιοδοτημένη χρήση σε ένα παραγόμενο μοντέλο AI, η αφαίρεση λογότυπου μέσω AI γίνεται πολύ εύκολη και ακόμη εμπορική.

Πρώτη δημοσίευση 25ης Σεπτεμβρίου 2022.