Τι είναι τα Deepfakes;

Όσο τα deepfakes γίνονται πιο εύκολα στην παραγωγή και πιο διαδεδομένα, δίνεται περισσότερη προσοχή σε αυτά. Τα deepfakes έχουν γίνει το κεντρικό σημείο συζητήσεων που αφορούν την ηθική του AI, την παραπληροφόρηση, την ανοικτότητα της πληροφορίας και του διαδικτύου, καθώς και την ρύθμιση. Αξίζει να ενημερωθούμε σχετικά με τα deepfakes και να έχουμε μια ενστικτώδη κατανόηση του τι είναι τα deepfakes. Αυτό το άρθρο θα αποσαφηνίσει την έννοια του deepfake, θα εξετάσει τις περιπτώσεις χρήσης τους, θα συζητήσει πώς τα deepfakes μπορούν να ανιχνευθούν και θα εξετάσει τις επιπτώσεις των deepfakes για την κοινωνία.

Τι είναι τα Deepfakes;

Πριν προχωρήσουμε να συζητήσουμε περαιτέρω τα deepfakes, θα ήταν χρήσιμο να dànhουμε λίγο χρόνο και να αποσαφηνίσουμε τι είναι τα “deepfakes” στην πραγματικότητα. Υπάρχει μια σημαντική σύγχυση σχετικά με τον όρο Deepfake, και συχνά ο όρος χρησιμοποιείται λανθασμένα για οποιοδήποτε ψευδόμενο μέσο, ανεξάρτητα από το αν είναι πραγματικά deepfake. Για να θεωρηθεί ως Deepfake, το ψευδόμενο μέσο πρέπει να έχει παραχθεί με ένα σύστημα μηχανικής μάθησης, συγκεκριμένα ένα βαθύ νευρωνικό δίκτυο.

Το βασικό συστατικό των deepfakes είναι η μηχανική μάθηση. Η μηχανική μάθηση έχει κάνει δυνατή την αυτόματη παραγωγή βίντεο και ήχου από τους υπολογιστές tương đối γρήγορα και εύκολα. Τα βαθιά νευρωνικά δίκτυα εκπαιδεύονται σε βίντεο ενός πραγματικού ατόμου, ώστε το δίκτυο να μάθει πώς οι άνθρωποι φαίνονται και κινούνται υπό τις στόχους περιβαλλοντικές συνθήκες. Το εκπαιδευμένο δίκτυο χρησιμοποιείται στη συνέχεια σε εικόνες ενός άλλου ατόμου και ενισχύεται με επιπλέον τεχνικές γραφικών υπολογιστή, ώστε να συνδυαστεί το νέο άτομο με το αρχικό βίντεο. Ένα αλγόριθμο κωδικοποιητή χρησιμοποιείται για να καθορίσει τις ομοιότητες μεταξύ του αρχικού προσώπου και του στόχου προσώπου. Μόλις έχουν απομονωθεί τα κοινά χαρακτηριστικά των προσώπων, χρησιμοποιείται ένας δεύτερος αλγόριθμος AI που ονομάζεται αποκωδικοποιητής. Ο αποκωδικοποιητής εξετάζει τις κωδικοποιημένες (συμπιεσμένες) εικόνες και τις ανακατασκευάζει με βάση τα χαρακτηριστικά στις αρχικές εικόνες. Χρησιμοποιούνται δύο αποκωδικοποιητές, ένας για το αρχικό πρόσωπο και ο δεύτερος για το πρόσωπο του στόχου. Για να γίνει η ανταλλαγή, ο αποκωδικοποιητής που εκπαιδεύτηκε σε εικόνες του ατόμου X τροφοδοτείται με εικόνες του ατόμου Y. Το αποτέλεσμα είναι ότι το πρόσωπο του ατόμου Y ανακατασκευάζεται πάνω στις εκφράσεις και την προοπτική του προσώπου του ατόμου X.

Τώρα, ακόμη χρειάζεται ένα相当 μεγάλο χρονικό διάστημα για να δημιουργηθεί ένα deepfake. Ο δημιουργός του ψευδούς πρέπει να περάσει πολύ χρόνο ρυθμίζοντας χειροκίνητα τις παραμέτρους του μοντέλου, поскольку οι μη βέλτιστες παραμέτρους θα οδηγήσουν σε φανερές ατέλειες και σφάλματα εικόνας που θα αποκαλύψουν την αληθινή φύση του ψευδούς.

Αν και συχνά υποθέτουμε ότι τα περισσότερα deepfakes δημιουργούνται με ένα είδος νευρωνικού δικτύου που ονομάζεται ανταγωνιστικό γενετικό δίκτυο (GAN), πολλά (ίσως τα περισσότερα) deepfakes που δημιουργούνται αυτές τις μέρες δεν βασίζονται σε GANs. Αν και τα GANs έπαιξαν einen σημαντικό ρόλο στη δημιουργία των πρώτων deepfakes, τα περισσότερα βίντεο deepfake δημιουργούνται μέσω εναλλακτικών μεθόδων, σύμφωνα με τον Siwei Lyu από το SUNY Buffalo.

Για τι χρησιμοποιούνται τα Deepfakes;

Πολλά από τα deepfakes που βρίσκονται στο διαδίκτυο είναι πορνογραφικού περιεχομένου. Σύμφωνα με έρευνα που πραγματοποιήθηκε από την Deeptrace, μια εταιρεία AI, από ένα δείγμα περίπου 15.000 βίντεο deepfake που λήφθηκαν τον Σεπτέμβριο του 2019, περίπου το 95% από αυτά ήταν πορνογραφικού περιεχομένου. Μια ανησυχητική επιπτώσεις αυτού του γεγονότος είναι ότι καθώς η τεχνολογία γίνεται πιο εύκολη στη χρήση, τα περιστατικά ψευδούς εκδίκησης πορνογραφίας μπορεί να αυξηθούν.

Ωστόσο, δεν όλα τα deepfakes είναι πορνογραφικού περιεχομένου. Υπάρχουν πιο νόμιμες χρήσεις για την τεχνολογία deepfake. Η τεχνολογία deepfake ήχου μπορεί να βοηθήσει τους ανθρώπους να μεταδώσουν τις φυσικές φωνές τους μετά από ζημιά ή απώλεια λόγω ασθένειας ή τραύματος. Τα deepfakes μπορούν επίσης να χρησιμοποιηθούν για να κρύψουν τα πρόσωπα των ανθρώπων που βρίσκονται σε ευαίσθητες, πιθανώς επικίνδυνες καταστάσεις, ενώ vẫn επιτρέπεται να διαβάζονται τα χείλη και οι εκφράσεις τους. Η τεχνολογία deepfake μπορεί να χρησιμοποιηθεί για να βελτιώσει τη διπλώση ξένων γλωσσών, να βοηθήσει στην επισκευή παλαιών και κατεστραμμένων μέσων, και ακόμη να δημιουργήσει νέους στυλ τέχνης.

Non-Βίντεο Deepfakes

Ενώ η mayoría των ανθρώπων σκέφτεται ψευδόμενα βίντεο όταν ακούν τον όρο “deepfake”, τα ψευδόμενα βίντεο δεν είναι το μόνο είδος ψευδούς μέσου που παράγεται με την τεχνολογία deepfake. Η τεχνολογία deepfake χρησιμοποιείται για να δημιουργήσει ψευδείς φωτογραφίες και ήχους. Όπως đã αναφερθεί προηγουμένως, τα GANs χρησιμοποιούνται συχνά για να δημιουργήσουν ψευδείς εικόνες. Πιστεύεται ότι έχουν υπάρξει πολλές περιπτώσεις ψευδών προφίλ στο LinkedIn και το Facebook (META ) που έχουν προφίλ εικόνες που παράγονται με αλγόριθμους deepfake.

Είναι δυνατό να δημιουργηθούν ψευδείς ήχοι. Τα βαθιά νευρωνικά δίκτυα εκπαιδεύονται για να παραχθούν κλώνοι φωνής/δέρματος φωνής διαφόρων ανθρώπων, συμπεριλαμβανομένων διασημοτήτων και πολιτικών. Ένα διάσημο παράδειγμα ψευδούς ήχου είναι όταν η εταιρεία AI Dessa χρησιμοποίησε ένα μοντέλο AI, υποστηριζόμενο από μη-ΑΙ αλγόριθμους, για να αναπαράγει τη φωνή του παρουσιαστή του podcast Joe Rogan.

Πώς να αναγνωρίσετε τα Deepfakes

Όσο τα deepfakes γίνονται πιο περίπλοκα, η διάκριση τους από τα γνήσια μέσα θα γίνει πιο δύσκολη. Τώρα, υπάρχουν μερικά χαρακτηριστικά που οι άνθρωποι μπορούν να ψάξουν για να διαπιστώσουν αν ένα βίντεο είναι πιθανό να είναι deepfake, όπως η κακή συγχρονία των χειλιών, η μη φυσική κίνηση, η τρεμόπαιξη γύρω από τα άκρα του προσώπου και η παραμόρφωση των λεπτών λεπτομερειών όπως τα μαλλιά, τα δόντια ή οι ανακλάσεις. Άλλα πιθανά σημάδια deepfake περιλαμβάνουν χαμηλότερης ποιότητας μέρη του ίδιου βίντεο και ακανόνιστες αναβλήσεις των ματιών.

Ενώ αυτά τα σημάδια μπορεί να βοηθήσουν κάποιον να αναγνωρίσει ένα deepfake για την ώρα, καθώς η τεχνολογία deepfake βελτιώνεται, η μόνη επιλογή για αξιόπιστη ανίχνευση deepfake μπορεί να είναι άλλα είδη AI που εκπαιδεύονται για να διακρίνουν τα ψευδόμενα από τα γνήσια μέσα.

Εταιρείες τεχνολογίας, συμπεριλαμβανομένων πολλών μεγάλων εταιρειών τεχνολογίας, ερευνών μεθόδους ανίχνευσης deepfakes. Τον περασμένο Δεκέμβριο, μια πρόκληση ανίχνευσης deepfake ξεκίνησε, υποστηριζόμενη από τρεις γίγαντες της τεχνολογίας: Amazon (AMZN ), Facebook και Microsoft. Ομάδες ερευνητών από όλο τον κόσμο εργάστηκαν σε μεθόδους ανίχνευσης deepfakes, αγωνιζόμενοι για την ανάπτυξη των καλύτερων μεθόδων ανίχνευσης. Άλλες ομάδες ερευνητών, όπως μια ομάδα συνδυασμένων ερευνητών από την Google (GOOGL ) και την Jigsaw, εργάζονται σε ένα είδος “ιατρικής της προσώπου” που μπορεί να ανιχνεύσει βίντεο που έχουν τροποποιηθεί, καθιστώντας τα δεδομένα τους ανοιχτά και ενθαρρύνοντας άλλους να αναπτύξουν μεθόδους ανίχνευσης deepfakes. Η προαναφερθείσα Dessa έχει εργαστεί στην επιμέλεια τεχνικών ανίχνευσης deepfake, προσπαθώντας να διασφαλίσει ότι τα μοντέλα ανίχνευσης λειτουργούν σε βίντεο deepfake που βρίσκονται στο διαδίκτυο και όχι μόνο σε προκατασκευασμένα δεδομένα εκπαίδευσης και δοκιμών, όπως το ανοιχτό δεδομένο που παρείχε η Google.

Υπάρχουν επίσης άλλες στρατηγικές που ερευνώνται για να αντιμετωπίσουν την εξάπλωση των deepfakes. Για παράδειγμα, η έρευνα για βίντεο που ταιριάζουν με άλλες πηγές πληροφοριών είναι μια στρατηγική. Οι αναζητήσεις μπορούν να γίνουν για βίντεο που έχουν ληφθεί από άλλες γωνίες ή για λεπτομέρειες του βίντεο (όπως καιρικές συνθήκες και τοποθεσίες) που μπορούν να ελεγχθούν για ασυμφωνίες. Πέρα από αυτό, ένα σύστημα Blockchain μπορεί να καταγράψει τα βίντεο όταν δημιουργούνται αρχικά, διατηρώντας τα αρχικά ήχη και εικόνες, ώστε τα παράγωγα βίντεο να μπορούν πάντα να ελεγχθούν για παραμόρφωση.

Τελικά, είναι σημαντικό να δημιουργηθούν αξιόπιστες μεθόδους ανίχνευσης deepfakes και ότι αυτές οι μεθόδους ανίχνευσης να παραμείνουν σύγχρονες με τις τελευταίες εξελίξεις στην τεχνολογία deepfake. Αν και είναι δύσκολο να γνωρίζουμε ακριβώς τις επιπτώσεις των deepfakes, αν δεν υπάρχουν αξιόπιστες μεθόδους ανίχνευσης deepfakes (και άλλων είδων ψευδούς μέσου), η παραπληροφόρηση μπορεί να εξαπλωθεί και να υπονομεύσει την εμπιστοσύνη των ανθρώπων στην κοινωνία και τις θεσμούς.

Επιπτώσεις των Deepfakes

Ποια είναι τα κινδύνες που προκύπτουν από την άναρχη εξάπλωση των deepfakes;

Ένα από τα μεγαλύτερα προβλήματα που δημιουργούν τα deepfakes αυτή τη στιγμή είναι η μη συναίνεση πορνογραφίας, που κατασκευάζεται συνδυάζοντας τα πρόσωπα των ανθρώπων με πορνογραφικά βίντεο και εικόνες. Οι ηθικοί του AI φοβούνται ότι τα deepfakes θα χρησιμοποιηθούν περισσότερο για τη δημιουργία ψευδούς εκδίκησης πορνογραφίας. Πέρα από αυτό, τα deepfakes θα μπορούσαν να χρησιμοποιηθούν για να παρενοχλήσουν και να βλάψουν τη φήμη σχεδόν οποιουδήποτε, καθώς θα μπορούσαν να χρησιμοποιηθούν για να τοποθετήσουν τους ανθρώπους σε αμφισβητούμενες και επικίνδυνες καταστάσεις.

Εταιρείες και ειδικοί στην κυβερνοασφάλεια έχουν εκφράσει ανησυχίες σχετικά με τη χρήση των deepfakes για να διευκολύνουν τις απάτες, τις απάτες και την εκβίαση. Υποτίθεται ότι ψευδείς ήχοι έχουν πειράξει τους υπαλλήλους μιας εταιρείας να μεταφέρουν χρήματα σε απατεώνες

Είναι δυνατό ότι τα deepfakes θα μπορούσαν να έχουν επιπτώσεις ακόμη και πέρα από αυτές που αναφέρθηκαν παραπάνω. Τα deepfakes θα μπορούσαν να υπονομεύσουν την εμπιστοσύνη των ανθρώπων στα μέσα ενημέρωσης γενικά και να κάνουν δύσκολο για τους ανθρώπους να διακρίνουν giữa τα γνήσια νέα και τα ψευδόμενα νέα. Αν πολλά βίντεο στο διαδίκτυο είναι ψευδόμενα, γίνεται πιο εύκολο για τις κυβερνήσεις, τις εταιρείες και άλλες οντότητες να αμφισβητήσουν τις γνήσιες διαμάχες και τις ανορθόδοξες πρακτικές.

Όταν πρόκειται για κυβερνήσεις, τα deepfakes μπορεί να υπονομεύσουν ακόμη και τη λειτουργία της δημοκρατίας. Η δημοκρατία απαιτεί ότι οι πολίτες είναι σε θέση να λαμβάνουν ενημερωμένες αποφάσεις για τους πολιτικούς με βάση αξιόπιστες πληροφορίες. Η παραπληροφόρηση υπονομεύει τις δημοκρατικές διαδικασίες. Για παράδειγμα, ο πρόεδρος του Γκαμπόν, Ali Bongo, εμφανίστηκε σε ένα βίντεο που προσπαθούσε να καθησυχάσει τους πολίτες του Γκαμπόν. Ο πρόεδρος θεωρήθηκε ότι ήταν άρρωστος για μεγάλο χρονικό διάστημα, και ηudden εμφάνισή του σε ένα πιθανό ψευδόμενο βίντεο ξεκίνησε μια απόπειρα πραξικοπήματος. Ο πρόεδρος Donald Trump ισχυρίστηκε ότι eine ηχογράφηση του που μιλούσε για το να πιάσει τις γυναίκες από τα γεννητικά όργανα ήταν ψευδής, παρά το ότι την περιέγραψε επίσης ως “ομιλία των αποδυτηρίων”. Ο πρίγκιπας Andrew επίσης ισχυρίστηκε ότι μια εικόνα που παρείχε ο δικηγόρος της Emily Maitilis ήταν ψευδής, αν και ο δικηγόρος επέμεινε στην αυθεντικότητά της.

Τελικά, ενώ υπάρχουν νόμιμες χρήσεις για την τεχνολογία deepfake, υπάρχουν πολλά πιθανά κινδύνες που μπορεί να προκύψουν από την άναρχη εξάπλωση της τεχνολογίας. Για αυτόν τον λόγο, είναι εξαιρετικά σημαντικό να δημιουργηθούν μεθόδους για να καθορίσουμε την αυθεντικότητα των μέσων και να διατηρηθούν.