Οι Φίλτρα Ομορφιάς είναι ένα Πιθανό Εργαλείο Επίθεσης Deepfake

Τα φίλτρα ομορφιάς δεν κάνουν πλέον μόνο το να κρύβουν τα σπυράκια: μπορούν επίσης να βοηθήσουν τις deepfakes και τις μορφοποιήσεις προσώπου να περάσουν απαρατήρητες από τα συστήματα ανίχνευσης. Μια νέα μελέτη δείχνει ότι ακόμη και οι λεπτές επιδράσεις λείανσης μπορούν να συγχύσουν τους ανιχνευτές AI, καθιστώντας τις ψευδείς εικόνες να φαίνονται πραγματικές και τις πραγματικές να φαίνονται ψευδείς. Αν η τάση συνεχιστεί, τα φίλτρα ομορφιάς μπορεί να αντιμετωπίσουν περιορισμούς σε υψηλό-κίνδυνου περιβάλλοντα, από τον έλεγχο συνόρων έως τις εταιρικές κλήσεις Zoom.

Σε μια ακαδημαϊκή συνεργασία του 2024 μεταξύ της Ισπανίας και της Ιταλίας, ερευνητές ανέφεραν ότι το 90% των γυναικών ηλικίας 18-30 χρησιμοποίησαν φίλτρα ομορφιάς πριν δημοσιεύσουν εικόνες στα κοινωνικά μέσα. Σε αυτό το πλαίσιο, τα φίλτρα ομορφιάς είναι αλγοριθμικές ή AI-βοηθούμενες μεθόδους για την αλλαγή της εμφάνισης του προσώπου, ώστε να φαίνεται βελτιωμένο σε σχέση με την αρχική πηγή:

Από τη μελέτη του 2024: παράδειγμα θηλυκού (αριστερά) και αρσενικού (δεξιά) προσώπου πριν και μετά τη χρήση φίλτρου ομορφιάς. Το φίλτρο άλλαξε χαρακτηριστικά όπως το χρώμα του δέρματος, τα μάτια, τη μύτη, τα χείλη, το πηγούνι και τα ζυγωματικά για να ενισχύσει την αντιληπτή ομορφιά. Πηγή: https://arxiv.org/pdf/2407.11981

Τέτοια φίλτρα είναι επίσης ευρέως διαθέσιμα ως εγγενής ή πρόσθετη λειτουργικότητα σε δημοφιλείς βίντεο-βασισμένα συστήματα, συμπεριλαμβανομένων των Snapchat και Zoom, προσφέροντας τη δυνατότητα να λειαίνουν το “ατελή” δέρμα και ακόμη και να αλλάζουν την ηλικία του υποκειμένου, μέχρι το σημείο όπου η ταυτότητα θα μπορούσε να θεωρηθεί ότι έχει αλλάξει σημαντικά:

Πατήστε για αναπαραγωγή: τρίο γυναικών απενεργοποιούν τα φίλτρα “ομορφιάς” του βίντεο, αποκαλύπτοντας το βαθμό στον οποίο οι φυσιογνωμίες τους αλλάζουν από τους αλγόριθμους ή την AI. Πηγή: https://www.youtube.com/watch?v=gtCpea_5qxw

Το φαινόμενο φαίνεται να έχει φτάσει στο σημείο κορύφωσης μόλις η τεχνολογία ήταν σχετικά ώριμη. Μια μελέτη του 2020 από το City University του Λονδίνου αποκάλυψε ότι το 90% των νέων χρηστών του Snapchat στις Ηνωμένες Πολιτείες, τη Γαλλία και το Ηνωμένο Βασίλειο χρησιμοποίησαν φίλτρα στις εφαρμογές τους, ενώ η Meta ανέφερε ότι περισσότεροι από 600 εκατομμύρια νέοι άνθρωποι είχαν μέχρι τότε χρησιμοποιήσει φίλτρα στο Facebook ή το Instagram.

Εξερευνώντας τις αντίθετες επιπτώσεις τέτοιων φίλτρων στην ψυχική υγεία, μια αναφορά του Psychology Today ανέφερε ότι από εκείνους που μελετήθηκαν, το 90% των νέων γυναικών, με μέση ηλικία 20 ετών, είτε χρησιμοποίησαν φίλτρα είτε σε κάποιο βαθμό επεξεργάστηκαν τις φωτογραφίες τους. Τα πιο δημοφιλή φίλτρα ήταν αυτά που χρησιμοποιούνταν για να ισοπεδώσουν τους τόνους του δέρματος, να δώσουν μια ηλιοκαμένη εμφάνιση, να λευκάνουν τα δόντια και ακόμη και να μειώσουν το μέγεθος του σώματος.

Αντιπαράθεση

Καθώς τα φίλτρα προσώπου είναι έτοιμα να επωφεληθούν από την επανάσταση του 2025 στη σύνθεση βίντεο και, γενικότερα, από το συνεχιζόμενο ενδιαφέρον σε αυτόν τον ερευνητικό τομέα, το βαθμό στον οποίο μπορούμε να “ξαναδημιουργήσουμε” ή να ξαναφανταστούμε τους εαυτούς μας σε ζωντανές βίντεο-κλήσεις είναι ολοένα και περισσότερο σε σύγκρουση με τις ανησυχίες της κοινότητας ασφαλείας σχετικά με τις απάτες ή τις εγκληματικές τεχνικές βίντεο-deepfake:

Ένα ζήτημα είναι ότι το εύρος των “εύκολων” τεστ που έχουν αναπτυχθεί τα τελευταία χρόνια για να αποκαλύψουν einen βίντεο-deepfaker, ο οποίος μπορεί να επιδιώκει να απάτησει μεγάλες ποσότητες χρημάτων σε ένα εταιρικό περιβάλλον, γίνεται αναπόφευκτα λιγότερο αποτελεσματικό καθώς αυτά τα αδύνατα σημεία λαμβάνονται υπόψη στα δεδομένα εκπαίδευσης και κατά την εκτίμηση:

Πατήστε για αναπαραγωγή: πριν από τρία ή τέσσερα χρόνια, το να κουνάμε το χέρι μας μπροστά σε ένα deepfaked πρόσωπο ήταν ένα αξιόπιστο τεστ για τις βίντεο-κλήσεις, αλλά μπορούμε να δούμε ότι οι αφοσιωμένες προσπάθειες από εταιρείες όπως το TikTok κάνουν βαθιά είσοδο στα κλασικά “συμπτώματα”. Πηγές: Ibid και https://archive.is/mofRV#wavehands

Περισσότερο κρίσιμο, η ευρεία χρήση φίλτρων αλλαγής/τροποποίησης ομορφιάς μπερδεύει τα νερά για μια νέα και αναδυόμενη γενιά ανιχνευτών deepfake που έχουν ως στόχο να κρατήσουν τους ψεύτες εκτός των εταιρικών βίντεο-κλήσεων και μακριά από ευάλωτους πιθανούς θύματα απάτης “απαγωγής” και “ψεύτικου προσώπου”.

Είναι πιο εύκολο να κάνετε μια deepfake πειστική, είτε φωτογραφία είτε βίντεο, αν η ανάλυση της εικόνας είναι χαμηλή ή η εικόνα είναι σε κάποιο βαθμό κατεστραμμένη, поскольку το υποκείμενο σύστημα απάτης μπορεί να κρύψει τις δικές του αδυναμίες πίσω από αυτά που φαίνονται να είναι προβλήματα συνδεσιμότητας ή προβλήματα πλατφόρμας.

Στην πραγματικότητα, τα πιο δημοφιλή φίλτρα ομορφιάς αφαιρούν κάποιο από το πιο χρήσιμο υλικό για την αναγνώριση των βίντεο-deepfake, όπως η υφή του δέρματος και άλλες περιοχές λεπτομέρειας του προσώπου – και αξίζει να ληφθεί υπόψη ότι όσο μεγαλύτερη είναι η ηλικία ενός προσώπου, τόσο περισσότερη λεπτομέρεια είναι πιθανό να περιέχει, και επομένως η χρήση φίλτρων γηράσκων ανθρώπων μπορεί να είναι μια ιδιαίτερη πειρασμός σε τέτοιες περιπτώσεις.

Αν μια εμφάνιση χωρίς λεπτομέρειες ‘android’-στυλ είναι η μόδα, οι ανιχνευτές deepfake μπορεί να μην έχουν το υλικό που χρειάζονται για να διακρίνουν μεταξύ πραγματικών και ψευδών εικόνων και βίντεο-προσώπων. Πηγή: https://www.instagram.com/reel/DMyGerPtTPF/?hl=en

Η μελέτη του Βασιλικού Ιδρύματος του τέλος του 2024 Τι είναι όμορφο είναι ακόμα καλό: η αύρα της ομορφιάς στην εποχή των φίλτρων ομορφιάς επιβεβαίωσε ότι η χρήση φίλτρων αυξάνει καθολικά την γενική ομορφιά και στα δύο φύλα (αν και η αυξημένη ομορφιά έχει την τάση να μειώνει την γενική εκτίμηση της ευφυΐας στις γυναίκες με φίλτρα ομορφιάς).

Επομένως, είναι δίκαιο να πούμε ότι αυτή είναι μια δημοφιλής τεχνολογία, ότι λειτουργεί και ότι θα ήταν κάποιο είδος πολιτιστικού σοκ αν突然 γινόταν αντικείμενο ασφαλειών ή απαγορευόταν σε διάφορα περιβάλλοντα.

Ωστόσο, σε μια περίοδο όπου οι βίντεο-deepfakes απειλούν να γίνουν αδιακρίτως διαφορετικοί από τους πραγματικούς συμμετέχοντες σε βίντεο-κλήσεις, και σε εμφάνιση και ομιλία, είναι πιθανό ότι ο παγκόσμιος “θόρυβος” από τα φίλτρα ομορφιάς μπορεί να χρειαστεί να μειωθεί στο μέλλον, για λόγους ασφαλείας.

Λείοι Εγκληματίες

Το ζήτημα έχει διερευνηθεί πιο πρόσφατα σε μια νέα μελέτη από το Πανεπιστήμιο της Καλιάρι στην Ιταλία, με τίτλο Απατηλή Ομορφιά: Αξιολόγηση του Επιπτώματος των Φίλτρων Ομορφιάς στην Ανίχνευση Επιθέσεων Deepfake και Μορφοποίησης.

Στη νέα μελέτη, οι ερευνητές εφαρμόζουν φίλτρα ομορφιάς σε πρόσωπα από δύο συνόλου δεδομένων και ελέγξαν διάφορους ανιχνευτές deepfake και επιθέσεων μορφοποίησης σε αυτές τις εικόνες.

Σχεδόν σε όλες τις περιπτώσεις, η ακρίβεια ανίχνευσης έπεσε μετά την ομορφιά, με τις πιο δραματικές πτώσεις να συμβαίνουν όταν τα φίλτρα λειάνουν τις ρυτίδες, φωτίζουν το χρώμα του δέρματος ή υποβληθούν σε μικρές αλλαγές των χαρακτηριστικών του προσώπου. Αυτές οι αλλαγές αφαιρούν ή διαστρεβλώνουν τις ίδιες ενδείξεις στις οποίες βασίζονται τα μοντέλα ανίχνευσης.

Για παράδειγμα, το μοντέλο με την υψηλότερη βαθμολογία στο MorphDB έχασε περισσότερο από 9% ακρίβεια μετά την ομορφιά, και το πρόβλημα παρέμεινε σε πολλαπλά αρχιτεκτονικά ανίχνευσης, υποδεικνύοντας ότι τα τρέχοντα συστήματα δεν είναι ανθεκτικά στις κοινές αισθητικές βελτιώσεις.

Οι συγγραφείς καταλήγουν:

‘[Τα φίλτρα ομορφιάς] αποτελούν απειλή για την ακεραιότητα των συστημάτων βιομετρικής αυθεντικοποίησης και της νομικής ανάλυσης, καθιστώντας την ανίχνευση deepfake και μορφοποίησης μια κρίσιμη ανοιχτή πρόκληση.

‘Η μελλοντική εργασία πρέπει να επικεντρωθεί στην ανάπτυξη συστημάτων ανίχνευσης ψηφιακής χειραγώγησης που είναι ανθεκτικά σε τέτοιες λεπτές, πραγματικές αλλαγές, είτε κακόβουλες είτε όχι, για να διασφαλιστεί η αξιόπιστη αναγνώριση ταυτότητας και επαλήθευση περιεχομένου σε καθημερινά και κρίσιμα περιβάλλοντα ασφαλείας.’

Μέθοδος και Δεδομένα

Για να αξιολογήσουν πώς τα φίλτρα ομορφιάς επηρεάζουν την ανίχνευση deepfake και μορφοποίηση, οι ερευνητές εφαρμόζουν ένα φίλτρο λείανσης και ελέγξαν τα αποτελέσματα σε δύο συνόλου νευρωνικών δικτύων (CNNs) που σχετίζονται με το στόχο πρόβλημα: AlexNet και VGG19.

Κάθε ένα από τα δύο συνόλου δεδομένων που δοκιμάστηκαν περιείχε παραδείγματα κατάλληλων χειραγώγησης προσώπου. Το πρώτο ήταν CelebDF, một μεγάλο βίντεο-συνόλου που περιλαμβάνει 590 πραγματικές και 5.639 ψευδείς κλιπ που δημιουργήθηκαν μέσω προηγμένων τεχνικών ανταλλαγής προσώπου. Η συλλογή προσφέρει eine ποικιλία από συνθήκες φωτισμού, στάσεις κεφαλής και φυσικές εκφράσεις σε 59 άτομα, καθιστώντας το κατάλληλο για την αξιολόγηση της ανθεκτικότητας των ανιχνευτών deepfake σε πραγματικές μεσοαποθηκευμένες σκηνές:

Παραδείγματα επηρεασμένων εικόνων προσώπου, από το CelebDF. Πηγή: https://github.com/yuezunli/celeb-deepfakeforensics

Το δεύτερο ήταν AMSL (απαιτείται εγγραφή), ένα συνόλου επιθέσεων μορφοποίησης που δημιουργήθηκε από τη συλλογή Face Research Lab London collection, που περιέχει και πραγματικές και συνθετικές μορφοποιημένες εικόνες. Η συλλογή περιλαμβάνει ουδέτερες και χαμογελαστές εκφράσεις από 102 υποκείμενα και ήταν δομημένη για να αντικατοπτρίζει πραγματικές προκλήσεις για συστήματα βιομετρικής αυθεντικοποίησης που χρησιμοποιούνται σε περιβάλλοντα όπως ο έλεγχος συνόρων.

Εικόνες από τη συλλογή Face Research Lab London (FRLL) που χρησιμοποιήθηκε στο AMSL. Πηγή: https://figshare.com/articles/dataset/Face_Research_Lab_London_Set/5047666?file=8541955

Κάθε δίκτυο εκπαιδεύτηκε στο 80% του συνόλου δεδομένων deepfake ή μορφοποίησης, με το υπόλοιπο 20% να χρησιμοποιείται για επαλήθευση. Για να δοκιμάσουν την ανθεκτικότητα έναντι της ομορφιάς, οι ερευνητές εφαρμόζουν ένα φίλτρο λείανσης στα εικόνες δοκιμής, αυξάνοντας τον ακτίνα λείανσης από 3% έως 5% του ύψους του προσώπου:

Παραδείγματα προσώπων από τα συνόλου CelebDF (πάνω) και AMSL (κάτω), που εμφανίζονται πριν και μετά την εφαρμογή ενός φίλτρου ομορφιάς. Ο ακτίνας του φίλτρου ήταν κλιμακωτός σε σχέση με το ύψος του προσώπου, με c = 3% και c = 5% που παράγουν προοδευτικά ισχυρότερους επιδράσεις.

Σχετικά με τα μετρικά, κάθε μοντέλο αξιολογήθηκε χρησιμοποιώντας τον ρυθμό σφάλματος (EER) και στις αρχικές και στις ομορφαινόμενες εικόνες δοκιμής. Η ανάλυση ανέφερε επίσης τον ρυθμό σφάλματος ταξινόμησης παρουσιάσεων (BPCER) ή τον ρυθμό ψευδών θετικών, και τον ρυθμό σφάλματος ταξινόμησης επιθέσεων (APCER) ή τον ρυθμό ψευδών αρνητικών, χρησιμοποιώντας το κατώφλι που ορίστηκε στα αρχικά δεδομένα.

Μορφοποιημένα πρόσωπα από το συνόλου AMSL.

Για να αξιολογήσουν περαιτέρω την απόδοση, η περιοχή κάτω από την καμπύλη ROC (AUC) και οι κατανομές βαθμολογιών για πραγματικές και ψευδείς εικόνες εξετάστηκαν.

Δοκιμές

Στα αποτελέσματα ανίχνευσης deepfake, και τα δύο δίκτυα έδειξαν αυξανόμενους ρυθμούς σφάλματος καθώς η ομορφιά αυξανόταν. Ο ρυθμός σφάλματος του AlexNet αυξήθηκε από 22,3% στις αρχικές εικόνες σε 28,1% στο υψηλότερο επίπεδο λείανσης, ενώ ο ρυθμός σφάλματος του VGG19 αυξήθηκε από 30,2% σε 35,2%. Η πτώση της απόδοσης ακολούθησε διαφορετικά μοτίβα σε κάθε περίπτωση:

Αποτελέσματα ανίχνευσης deepfake στο συνόλου CelebDF χρησιμοποιώντας τα AlexNet και VGG19. Και τα δύο μοντέλα δοκιμάστηκαν σε αρχικές και ομορφαινόμενες εικόνες με αυξανόμενα επίπεδα λείανσης του προσώπου. Τα μετρικά που εμφανίζονται περιλαμβάνουν τον ρυθμό σφάλματος, τον ρυθμό σφάλματος ταξινόμησης παρουσιάσεων και τον ρυθμό σφάλματος ταξινόμησης επιθέσεων, χρησιμοποιώντας κατώφλια που ορίστηκαν από το αρχικό συνόλου δοκιμής. Η ακρίβεια ανίχνευσης μειώθηκε καθώς η ομορφιά αυξανόταν, αν και το μοτίβο της υποβάθμισης διέφερε μεταξύ αρχιτεκτονικών.

Όταν η ομορφιά αυξανόταν, το AlexNet γινόταν πιο πιθανό να συγχύσει πραγματικά πρόσωπα με ψευδείς, όπως φαίνεται από μια σταθερή αύξηση του ρυθμού ψευδών θετικών. Το VGG19, από την άλλη πλευρά, είχε δυσκολία να πιάσει τις ψευδείς εικόνες, με einen αυξανόμενο ρυθμό ψευδών αρνητικών. Τα δύο μοντέλα ανταποκρίθηκαν διαφορετικά στα φίλτρα, υποδεικνύοντας ότι ακόμη και γνωστές αρχιτεκτονικές μπορούν να αποτύχουν με διαφορετικούς τρόπους όταν αντιμετωπίζουν αισθητικές αλλαγές.

Για να κατανοήσουν καλύτερα αυτά τα αποτελέσματα, οι ερευνητές εφαρμόζουν το φίλτρο ομορφιάς ξεχωριστά σε πραγματικές και ψευδείς εικόνες και μετρούν την επίδραση στην απόδοση ανίχνευσης. Αυτή η ανάλυση, που εμφανίζεται στον πίνακα αποτελεσμάτων παρακάτω, διευκρινίζει την πηγή της ευαλότητας κάθε μοντέλου:

Ακρίβεια ανίχνευσης για τα AlexNet και VGG19 υπό μερική ομορφιά στο συνόλου CelebDF. Ο πίνακας αναφέρει τρεις σενάρια: ομορφαινόμενες πραγματικές vs ομορφαινόμενες ψευδείς (F-Real vs F-Fake), ομορφαινόμενες πραγματικές vs αρχικές ψευδείς (F-Real vs O-Fake) και αρχικές πραγματικές vs ομορφαινόμενες ψευδείς (O-Real vs F-Fake), με μια μείωση της ακρίβειας που υποδηλώνει μειωμένη απόδοση ανιχνευτή. Το AlexNet επηρεάστηκε περισσότερο όταν οι πραγματικές εικόνες ομορφαινούνταν, ενώ το VGG19 είχε δυσκολία όταν οι ψευδείς εικόνες ομορφαινούνταν.

Για το AlexNet, η απόδοση ανίχνευσης έπεσε όταν οι πραγματικές εικόνες ομορφαινούνταν, αλλά βελτιώθηκε όταν μόνο οι ψευδείς εικόνες λειάνθηκαν. Για το VGG19, η απόδοση βελτιώθηκε ελαφρά με ομορφαινόμενες πραγματικές εικόνες, αλλά χειροτέρευσε όταν οι deepfakes ομορφαινούνταν. Σε όλες τις περιπτώσεις, η ισχυρότερη ομορφιά μειώνει την ακρίβεια.

Διαγράμματα κουτιού που δείχνουν τις κατανομές βαθμολογιών του AlexNet και VGG19 σε πραγματικές και ψευδείς δείγματα από το συνόλου CelebDF, υπό αυξανόμενα επίπεδα ομορφιάς. Όσο η λείανση εντείνεται, οι κατανομές βαθμολογιών για πραγματικές και ψευδείς εικόνες γίνονται λιγότερο διαχωρίσιμες, υποδηλώνοντας μειωμένη αξιοπιστία ανίχνευσης. Το AlexNet γίνεται λιγότερο βέβαιο στην αναγνώριση πραγματικών προσώπων, ενώ το VGG19 γίνεται πιο πιθανό να συγχύσει ψευδείς εικόνες.

Η ομορφιά έκανε τις βαθμολογίες του AlexNet πιο ομοιόμορφες σε πραγματικές και ψευδείς δείγματα, ενώ το VGG19 έδειξε μεγαλύτερη διάσπαση μέσα σε κάθε τάξη. Παρά τις αντίθετες επιδράσεις στην μεταβλητότητα των βαθμολογιών, και τα δύο μοντέλα έχαναν ακρίβεια. Για το AlexNet, οι βαθμολογίες για πραγματικά πρόσωπα μετακινήθηκαν πιο κοντά σε αυτές των deepfakes. Για το VGG19, οι βαθμολογίες για πραγματικά και ψευδείς εικόνες άρχισαν να перекrýονται, μειώνοντας την ικανότητα του μοντέλου να τις διακρίνει.

Το έγγραφο αναφέρει:

‘Αυτά τα αποτελέσματα έχουν σημαντικές επιπτώσεις και αποκαλύπτουν ότι είναι απαραίτητο να ληφθεί υπόψη η πιθανή χρήση φίλτρων ομορφιάς στην ανίχνευση deepfake, καθώς αυτά μπορεί να έχουν μια απρόβλεπτη επίδραση στην απόδοση. Σpecifically, διαφορετικές αρχιτεκτονικές ανταποκρίνονται διαφορετικά στις χειραγώγεις του προσώπου, ακόμη και αν αυτές οι χειραγώγεις δεν προορίζονται για να εξαπατήσουν.

‘Για παράδειγμα, ανάλογα με τον συγκεκριμένο ανιχνευτή deepfake, τα φίλτρα ομορφιάς θα μπορούσαν να αλλάξουν σημαντικά την έξοδο, καθιστώντας πραγματικές εικόνες να αναγνωρίζονται ως ψευδείς και, πιο κρίσιμο, επιτρέποντας στις deepfakes να εξαπατούν την ανίχνευση.

‘Επομένως, είναι απαραίτητο να επικεντρωθούμε στην ανάπτυξη ανιχνευτών που είναι πιο ανθεκτικοί σε τέτοιες λεπτές, πραγματικές αλλαγές, είτε κακόβουλες είτε όχι, για να διασφαλιστεί η αξιόπιστη αναγνώριση ταυτότητας και επαλήθευση περιεχομένου σε καθημερινά και κρίσιμα περιβάλλοντα ασφαλείας.’

Στην περίπτωση της επίθεσης μορφοποίησης, μια συνθετική εικόνα δημιουργήθηκε με τη μορφοποίηση χαρακτηριστικών προσώπου από δύο άτομα. Αυτή η εικόνα χρησιμοποιήθηκε για να εξαπατήσει συστήματα αναγνώρισης προσώπου, επιτρέποντας και στα δύο αρχικά πρόσωπα να αυθεντικοποιηθούν ως το ίδιο πρόσωπο. Τέτοιες επιθέσεις θεωρούνται ιδιαίτερα σχετικές σε περιβάλλοντα ασφαλείας, όπου τα βιομετρικά συστήματα μπορούν να εξαπατηθούν να αποδεχθούν τη μορφοποιημένη εικόνα για επίσημη ταυτοποίηση.

Αποτελέσματα ανίχνευσης επιθέσεων μορφοποίησης σε εικόνες AMSL πριν και μετά την ομορφιά, με και τα δύο δίκτυα που δείχνουν απότομη αύξηση σφαλμάτων καθώς η λείανση αυξάνεται.

Στην περίπτωση της επίθεσης μορφοποίησης, η απόδοση χειροτέρευσε περισσότερο από ό,τι στην ανίχνευση deepfake. Ο ρυθμός σφάλματος του AlexNet αυξήθηκε από 27,6% σε 41,2%, και του VGG19 από 19,0% σε 37,3%, με κύρια αιτία τα ψευδώς θετικά: πραγματικά πρόσωπα που ταξινομήθηκαν ως μορφοποιημένα. Με ακτίνα λείανσης 3%, ο ρυθμός ψευδών θετικών του VGG19 έφτασε το 90%.

Αυτή η τάση διατηρήθηκε όταν τα φίλτρα εφαρμόστηκαν επιλεκτικά. Η λείανση πραγματικών προσώπων χειροτέρευσε την ανίχνευση, ενώ η λείανση μόνο των μορφοποιημένων προσώπων βελτίωσε τα αποτελέσματα. Όσο η λείανση εντείνωνε, και τα δύο δίκτυα έδειξαν μειωμένη διάκριση μεταξύ πραγματικών και ψευδών βαθμολογιών, με το VGG19 να γίνεται ιδιαίτερα ασταθές.

Αυτά τα ευρήματα, όπως υποδεικνύουν οι συγγραφείς, υποδηλώνουν ότι τα φίλτρα ομορφιάς θα μπορούσαν να βοηθήσουν τις μορφοποιήσεις να εξαπατήσουν την ανίχνευση ακόμη πιο αποτελεσματικά από τις deepfakes, αυξάνοντας τις ανησυχίες ασφαλείας.

Μερικά παραδείγματα (λόγω έλλειψης χώρου) του πώς η ελάσσων ομορφιά (ακτίνα λείανσης 3%) άλλαξε τις ταξινομήσεις του AlexNet. Στο αριστερό, μια πραγματική εικόνα ταξινομήθηκε ως επίθεση μετά τη λείανση, και στο δεξιά, μια μορφοποιημένη εικόνα ταξινομήθηκε ως γνήσια μετά τη λείανση.

Τελικά, οι ερευνητές βρήκαν ότι ακόμη και ελαφριά φίλτρα ομορφιάς μπορούν να μειώσουν σημαντικά την απόδοση των ανιχνευτών deepfake και μορφοποίησης. Η επίδραση ποικίλλει ανάλογα με την αρχιτεκτονική, με το AlexNet να δείχνει σταδιακή πτώση και το VGG19 να καταρρέει υπό ελάχιστη λείανση. Καθώς αυτά τα φίλτρα είναι κοινά και δεν είναι αναπόφευκτα κακόβουλα, η ικανότητά τους να κρύψουν τις επιθέσεις αποτελεί, όπως προτείνουν οι συγγραφείς, μια πρακτική απειλή, ιδιαίτερα σε βιομετρικά συστήματα. Το έγγραφο τονίζει την ανάγκη για μοντέλα ανίχνευσης που είναι ανθεκτικά σε τέτοιες λεπτές ψηφιακές χειραγώγεις.

Συμπέρασμα

Ένας λόγος για τον οποίο μπορεί να είναι δύσκολο να εκπαιδευτούν ανιχνευτές deepfake που μπορούν να αγνοήσουν τα φίλτρα ομορφιάς είναι η έλλειψη αντίθετου υλικού. Τελικά, η “ομορφαινομένη” εκδοχή είναι αυτή που διαθέτεται ευρέως, και, αντίθετα με το βίντεο που ενσωματώσαμε ως παράδειγμα, είναι πολύ σπάνιο ένα “πριν” φωτογραφία να εφαρμοστεί.

Ένα άλλο εμπόδιο είναι ότι πολλά από τα φίλτρα thực hiện ακριβώς τον ίδιο τύπο λείανσης που είναι τυπικός των λειτουργιών συμπίεσης όταν αποθηκεύονται εικόνες ή συμπιέζεται βίντεο (ένα όφελος για τους παρόχους σε σχέση με το εύρος ζώνης, εκτός από το ψηφιακό μακιγιάζ για εκείνους που χρησιμοποιούν το φίλτρο).

Ο τομέας της ανίχνευσης deepfake είναι ήδη βαθιά εμπλεγμένος στην καταπολέμηση περιπτώσεων πραγματικής εικόνας που έχουν υποστεί χειραγώγηση λόγω προβλημάτων όπως κακής ποιότητας κάμερες, υπερβολικής συμπίεσης ή διακοπής συνδεσιμότητας – toutes αυτές οι συνθήκες είναι ένα άμεσο όφελος για τους deepfake απάτες που πρέπει να προσπαθήσουν πολύ περισσότερο σε ένα υψηλής ποιότητας, υψηλής ανάλυσης σενάριο.

Εάν τα φίλτρα ομορφιάς τελικά θα γίνουν απειλή για την ασφάλεια φαίνεται να εξαρτάται από το βαθμό στον οποίο θα αποδειχθούν εμπόδιο για τις μεθόδους ανίχνευσης deepfake, ή θα συνιστά ένα είδος de facto τείχους που θα ωφελήσει περισσότερο τους κακόβουλους παρά εκείνους που τους καταπολεμούν.

Πρώτη δημοσίευση Τετάρτη, 24 Σεπτεμβρίου 2025