Τα μικρότερα Deepfakes μπορεί να είναι η μεγαλύτερη απειλή

Τα εργαλεία συνειδητής AI, όπως το ChatGPT και το Google Gemini, χρησιμοποιούνται τώρα για τη δημιουργία deepfakes που δεν ανταλλάσσουν πρόσωπα, αλλά με πιο υπονόμευους τρόπους μπορούν να ξαναγράψουν ολόκληρη την ιστορία μέσα σε μια εικόνα. Με την αλλαγή χειρονομιών, αντικειμένων και φόντων, αυτές οι επεξεργασίες εξαπατούν τόσο τους ανιχνευτές AI όσο και τους ανθρώπους, αυξάνοντας τους κινδύνους για την ανίχνευση του τι είναι πραγματικό στο διαδίκτυο.

Στο τρέχον κλίμα, ιδιαίτερα μετά από σημαντική νομοθεσία όπως ο νόμος TAKE IT DOWN, πολλοί από εμάς συνδέουμε τα deepfakes και τη σύνθεση ταυτοτήτων με τη βοήθεια AI με μη συναισθηματικά AI πορνό και πολιτική χειραγώγηση – γενικά, βρώμικες παραμορφώσεις της αλήθειας.

Αυτό μας συνηθίζει να περιμένουμε ότι οι AI-επεξεργασμένες εικόνες θα είναι πάντα προσανατολισμένες σε υψηλού κινδύνου περιεχόμενο, όπου η ποιότητα της απόδοσης και η χειραγώγηση του контекστου μπορεί να επιτύχει ένα πιστωτικό χτύπημα, τουλάχιστον στο βραχύ χρονικό διάστημα.

Ιστορικά, ωστόσο, πολύ πιο λεπτές αλλαγές είχαν συχνά μια πιο διεφθαρμένη και μακροχρόνια επίδραση – όπως η φωτογραφική χειραγώγηση που επέτρεψε στον Στάλιν να αφαιρέσει εκείνους που είχαν πέσει εκτός ευνοίας από το φωτογραφικό αρχείο, όπως σατιρίστηκε στο μυθιστόρημα του Τζορτζ Όργουελ 1984, όπου ο πρωταγωνιστής Γουίνστον Σμιθ περνά τις μέρες του ξαναγράφοντας την ιστορία και δημιουργώντας φωτογραφίες και τις ‘τροποποιώντας’.

Στο ακόλουθο παράδειγμα, το πρόβλημα με τη δεύτερη εικόνα είναι ότι ‘δεν ξέρουμε τι δεν ξέρουμε’ – ότι ο πρώην αρχηγός της μυστικής αστυνομίας του Στάλιν, Νικολάι Γεζόφ, κατείχε το χώρο όπου τώρα υπάρχει μόνο ένα φράγμα ασφαλείας:

Τώρα το βλέπεις, τώρα δεν είναι… ατμός. Η φωτογραφική χειραγώγηση της εποχής Στάλιν αφαιρεί ένα αποκηρυγμένο μέλος του κόμματος από την ιστορία. Πηγή: Δημόσια domaine, μέσω https://www.rferl.org/a/soviet-airbrushing-the-censors-who-scratched-out-history/29361426.html

Ρεύματα αυτού του είδους, που επαναλαμβάνονται συχνά, επιμένουν με πολλούς τρόπους· όχι μόνο πολιτιστικά, αλλά και στην οπτική αντίληψη, η οποία προέρχεται από στατιστικά κυρίαρχα θέματα και μοτίβα στα συνόλα δεδομένων εκπαίδευσης. Για να δώσω ένα παράδειγμα, το γεγονός ότι τα smartphones έχουν μειώσει το εμπόδιο εισόδου και μεγάλως μείωσαν το κόστος της φωτογράφισης, σημαίνει ότι η εικονογραφία τους έχει γίνει αδιαμφισβήτητα συνδεδεμένη με πολλές αφηρημένες έννοιες, ακόμη και όταν αυτό δεν είναι κατάλληλο.

Αν η συμβατική deepfake μπορεί να θεωρηθεί ως μια πράξη ‘επίθεσης’, οι επιζήμιες και επιμονείς μικρές αλλαγές στα οπτικοακουστικά μέσα είναι περισσότερο παρόμοιες με ‘ψυχολογική χειραγώγηση’. Επιπλέον, η ικανότητα αυτού του είδους deepfaking να παραμείνει ανιχνεύσιμη καθιστά δύσκολο τον εντοπισμό μέσω των συστημάτων ανίχνευσης deepfake της τελευταίας τεχνολογίας (τα οποία ψάχνουν για φανερές αλλαγές). Αυτή η προσέγγιση είναι περισσότερο παρόμοια με το νερό που σβήνει την πέτρα με συνεχή κίνηση, παρά με einen βράχο που στοχεύει στο κεφάλι.

MultiFakeVerse

Ερευνητές από την Αυστραλία έχουν κάνει μια προσπάθεια να διευθύνουν την έλλειψη προσοχής στα ‘λεπτά’ deepfakes στη βιβλιογραφία, δημιουργώντας ένα νέο σύνολο δεδομένων που περιλαμβάνει αλλαγές εικόνων που επηρεάζουν το контέxt, το συναίσθημα και την αφήγηση χωρίς να αλλάζουν την ταυτότητα του υποκειμένου:

Δείγματα από τη νέα συλλογή, ζευγάρια πραγματικών/ψευδών εικόνων, με κάποιες αλλαγές πιο λεπτές από άλλες. Σημειώστε, για παράδειγμα, την απώλεια εξουσίας για τη γυναίκα της Ασίας, κάτω δεξιά, καθώς το στεθόσκοπιο του γιατρού αφαιρείται από την AI. Ταυτόχρονα, η αντικατάσταση του σημειωματίου του γιατρού με το κλιπμπορντ δεν έχει καμία φανερή σημασιολογική γωνία. Πηγή: https://huggingface.co/datasets/parulgupta/MultiFakeVerse_preview

Ο τίτλος MultiFakeVerse περιλαμβάνει 845.826 εικόνες που παράγονται μέσω μοντέλων οπτικής γλώσσας (VLMs), που μπορούν να παραχθούνออนไลนικά και να κατεβάσουν, με άδεια.

Οι συγγραφείς δηλώνουν:

‘Αυτή η προσέγγιση VLM-κίνησης επιτρέπει σημασιολογικές, контέxt-ευαίσθητες αλλαγές, όπως η τροποποίηση δράσεων, σκηνών και αλληλεπιδράσεων ανθρώπων-αντικειμένων, αντί για συνθετικές ή χαμηλού επιπέδου ανταλλαγές ταυτοτήτων και επεξεργασίες περιοχών που είναι κοινές στα υπάρχοντα σύνολα δεδομένων.’

‘Τα πειράματά μας αποκαλύπτουν ότι τα τρέχοντα state-of-the-art μοντέλα ανίχνευσης deepfake και οι ανθρώπινοι παρατηρητές δυσκολεύονται να ανιχνεύσουν αυτές τις λεπτές αλλά σημαντικές χειραγωγές.’

Οι ερευνητές έτεστον και τους ανθρώπους και τα leading μοντέλα ανίχνευσης deepfake στο νέο σύνολο δεδομένων για να δουν πόσο καλά αυτές οι λεπτές χειραγωγές θα μπορούσαν να αναγνωριστούν. Οι ανθρώπινοι συμμετέχοντες δυσκολεύτηκαν, ταξινομώντας τις εικόνες ως πραγματικές ή ψευδείς μόνο περίπου 62% της φοράς, και είχαν ακόμη μεγαλύτερη δυσκολία να εντοπίσουν ποια μέρη της εικόνας είχαν αλλοιωθεί.

Τα υπάρχοντα μοντέλα ανίχνευσης deepfake, που εκπαιδεύτηκαν κυρίως σε πιο φανερές αλλαγές προσώπων ή inpainting, εκτέλεσαν επίσης κακώς, συχνά αποτυγχάνοντας να καταγράψουν ότι οποιαδήποτε χειραγώγηση είχε συμβεί. Ακόμη και μετά εξευγενισμό στο MultiFakeVerse, τα ποσοστά ανίχνευσης παρέμειναν χαμηλά, αποκαλύπτοντας πόσο κακώς τα τρέχοντα συστήματα χειρίζονται αυτές τις λεπτές, αφηγηματικές επεξεργασίες.

Το νέο έγγραφο έχει τον τίτλο Multiverse Through Deepfakes: Το σύνολο δεδομένων MultiFakeVerse για προσωποκεντρικές οπτικές και концептуαλικές χειραγωγές και προέρχεται από πέντε ερευνητές σε διάφορες πανεπιστημιακές μονάδες της Μελβούρνης και του Περθ. Ο κώδικας και τα σχετικά δεδομένα έχουν κυκλοφορήσει στο GitHub, εκτός από τη φιλοξενία Hugging Face που αναφέρθηκε νωρίτερα.

Μέθοδος

Το σύνολο δεδομένων MultiFakeVerse κατασκευάστηκε από τέσσερις πραγματικές συλλογές εικόνων που απεικονίζουν ανθρώπους σε διάφορες καταστάσεις: EMOTIC; PISC, PIPA, και PIC 2.0. Ξεκινώντας με 86.952 αρχικές εικόνες, οι ερευνητές παρήγαγαν 758.041 χειροποιημένες εκδόσεις.

Τα Gemini-2.0-Flash και ChatGPT-4o χρησιμοποιήθηκαν για να προτείνουν έξι ελάχιστες επεξεργασίες για κάθε εικόνα – επεξεργασίες που σχεδιάστηκαν για να αλλάξουν λεπτά τον τρόπο με τον οποίο το πιο εξέχον πρόσωπο στην εικόνα θα αντιλαμβανόταν ο θεατής.

Τα μοντέλα οδηγήθηκαν να παράγουν αλλαγές που θα κάνουν το υποκείμενο να φαίνεται απλό, υπεροπτικό, μετανοητικό, ανεπίδοτο, ή αδιάφορο, ή να điều chỉnh κάποιο πραγματικό στοιχείο μέσα στη σκηνή. Μαζί με κάθε επεξεργασία, τα μοντέλα παρήγαγαν επίσης μια αναφορική έκφραση για να αναγνωρίσουν σαφώς το στόχο της επεξεργασίας, διασφαλίζοντας ότι η επόμενη διαδικασία επεξεργασίας θα μπορούσε να εφαρμόσει αλλαγές στο σωστό πρόσωπο ή αντικείμενο μέσα σε κάθε εικόνα.

Οι συγγραφείς διευκρινίζουν:

‘Σημειώστε ότι αναφορική έκφραση είναι ένα ευρέως εξεταζόμενο πεδίο στην κοινότητα, που σημαίνει μια φράση που μπορεί να αποσαφηνίσει το στόχο σε μια εικόνα, π.χ. για μια εικόνα που έχει δύο άνδρες να καθονται σε ένα γραφείο, ένας μιλάει στο τηλέφωνο και ο άλλος κοιτάζει έγγραφα, μια κατάλληλη αναφορική έκφραση για τον τελευταίο θα ήταν ο άντρας αριστερά που κρατάει ένα κομμάτι χαρτί.’

Μόλις οι επεξεργασίες ορίστηκαν, η πραγματική επεξεργασία της εικόνας πραγματοποιήθηκε με την προώθηση μοντέλων οπτικής γλώσσας για την εφαρμογή των καθορισμένων αλλαγών, αφήνοντας το υπόλοιπο της σκηνής άθικτο. Οι ερευνητές έτεστον τρία συστήματα για αυτήν την εργασία: GPT-Image-1; Gemini-2.0-Flash-Image-Generation; και ICEdit.

Μετά τη δημιουργία εικοσιδύο χιλιάδων δειγμάτων εικόνων, το Gemini-2.0-Flash αναδείχθηκε ως η πιο συνεπής μέθοδος, παράγοντας επεξεργασίες που συνδύαζαν φυσικά με τη σκηνή χωρίς την εισαγωγή ορατών τεχνικών. Το ICEdit συχνά παρήγαγε πιο φανερές πλαστογραφίες, με προφανείς ελαττώματα στις αλλαγμένες περιοχές· και το GPT-Image-1 περιστασιακά επηρέασε μη προβλεπόμενες περιοχές της εικόνας, εν μέρει λόγω της συμμόρφωσής του με σταθερές αναλογίες εξόδου.

Ανάλυση Εικόνας

Κάθε επεξεργασμένη εικόνα συγκρίθηκε με την αρχική της για να καθορίσει πόσο από την εικόνα είχε αλλοιωθεί. Οι διαφορές σε επίπεδο pixel μεταξύ των δύο εκδόσεων υπολογίστηκαν, με μικρές τυχαίες θορύβους να φιλτράρονται για να εστιάσει στις σημαντικές επεξεργασίες. Σε κάποιες εικόνες, μόνο μικρές περιοχές επηρεάστηκαν· σε άλλες, μέχρι και ογδόντα τοις εκατό της σκηνής τροποποιήθηκε.

Για να αξιολογήσουν πόσο η σημασία κάθε εικόνας μετατοπίστηκε υπό το φως αυτών των αλλαγών, δημιουργήθηκαν legend για τις αρχικές και τις επεξεργασμένες εικόνες χρησιμοποιώντας το ShareGPT-4V μοντέλο οπτικής γλώσσας.

Αυτές οι legend μετατράπηκαν σε εμβυθίσεις χρησιμοποιώντας Long-CLIP, επιτρέποντας μια σύγκριση του πόσο το περιεχόμενο είχε απομακρυνθεί μεταξύ των εκδόσεων. Οι ισχυρότερες σημασιολογικές αλλαγές παρατηρήθηκαν σε περιπτώσεις όπου αντικείμενα κοντά ή άμεσα σχετικά με το πρόσωπο είχαν τροποποιηθεί, поскольку αυτές οι μικρές προσαρμογές θα μπορούσαν να αλλάξουν σημαντικά τον τρόπο με τον οποίο η εικόνα ερμηνεύτηκε.

Το Gemini-2.0-Flash χρησιμοποιήθηκε για να ταξινομήσει τον τύπο της επεξεργασίας που εφαρμόστηκε σε κάθε εικόνα, με βάση το πού και πώς εφαρμόστηκαν οι επεξεργασίες. Οι επεξεργασίες ομαδοποιήθηκαν σε τρεις κατηγορίες: επίπεδο προσωπού επεξεργασίες αφορούσαν αλλαγές στην έκφραση, στάση, βλέμμα, ενδυμασία ή άλλα προσωπικά χαρακτηριστικά του υποκειμένου· επίπεδο αντικειμένου επεξεργασίες επηρέαζαν αντικείμενα που συνδέονταν με το πρόσωπο, όπως αντικείμενα που κρατούσαν ή αλληλεπιδρούσαν με αυτά στο προσκήνιο· και επίπεδο σκηνής επεξεργασίες αφορούσαν στοιχεία του φόντου ή ευρύτερα στοιχεία της σκηνής που δεν αφορούσαν άμεσα το πρόσωπο.

Η διαδικασία δημιουργίας του συνόλου δεδομένων MultiFakeVerse ξεκινά με πραγματικές εικόνες, όπου μοντέλα οπτικής γλώσσας προτείνουν αφηγηματικές επεξεργασίες που στοχεύουν σε πρόσωπα, αντικείμενα ή σκηνές. Αυτές οι οδηγίες εφαρμόζονται τότε από μοντέλα επεξεργασίας εικόνας. Το δεξί πάνελ δείχνει την κατανομή των επεξεργασιών σε επίπεδο προσωπού, αντικειμένου και σκηνής σε όλο το σύνολο δεδομένων. Πηγή: https://arxiv.org/pdf/2506.00868

Καθώς οι μεμονωμένες εικόνες θα μπορούσαν να περιέχουν πολλαπλές τύπους επεξεργασιών ταυτόχρονα, η κατανομή αυτών των κατηγοριών χαρτογραφήθηκε σε όλο το σύνολο δεδομένων. Περίπου το ένα τρίτο των επεξεργασιών στοχεύονταν μόνο στο πρόσωπο, περίπου το ένα πέμπτο επηρέαζαν μόνο τη σκηνή, και περίπου το ένα έκτο ήταν περιορισμένα σε αντικείμενα.

Αξιολόγηση της Αισθητικής Επίδρασης

Το Gemini-2.0-Flash χρησιμοποιήθηκε για να αξιολογήσει πώς οι επεξεργασίες θα μπορούσαν να αλλάξουν την αντίληψη του θεατή σε έξι περιοχές: συναίσθημα, προσωπική ταυτότητα, δυναμική εξουσίας, αφήγηση σκηνής, σκοπός της χειραγώγης, και ηθικές ανησυχίες.

Για το συναίσθημα, οι επεξεργασίες περιγράφηκαν συχνά με όρους όπως χαρά, ενδιαφέρον, ή προσέγγιση, υποδεικνύοντας μετατοπίσεις στο πώς τα υποκείμενα παρουσιάζονταν συναισθηματικά. Σε αφηγηματικούς όρους, λέξεις όπως επαγγελματίας ή διαφορετικός έδειξαν αλλαγές στην υποτιθέμενη ιστορία ή σκηνή:

Το Gemini-2.0-Flash προωθήθηκε για να αξιολογήσει πώς κάθε επεξεργασία επηρέασε έξι πτυχές της αντίληψης του θεατή. Αριστερά: δομή προώθησης που οδηγεί την αξιολόγηση του μοντέλου. Δεξιά: σύννεφα λέξεων που συνοψίζουν τις μετατοπίσεις σε συναίσθημα, ταυτότητα, αφήγηση σκηνής, σκοπό, δυναμική εξουσίας, και ηθικές ανησυχίες σε όλο το σύνολο δεδομένων.

Περιγραφές των αλλαγών της ταυτότητας περιελάμβαναν όρους όπως νεότερος, παίγνιο, και ευάλωτος, δείχνοντας πώς μικρές αλλαγές θα μπορούσαν να επηρεάσουν τον τρόπο με τον οποίο τα άτομα αντιλαμβάνονταν. Ο σκοπός πίσω από πολλές επεξεργασίες χαρακτηρίστηκε ως πείθω, εξαπατώ, ή αισθητικός. Ενώ οι περισσότερες επεξεργασίες κρίθηκαν ότι προκαλούσαν μόνο ήπιες ηθικές ανησυχίες, μια μικρή μερίδα θεωρήθηκε ότι είχε μέτριες ή σοβαρές ηθικές επιπτώσεις.

Παραδείγματα από το MultiFakeVerse που δείχνουν πώς μικρές επεξεργασίες μετατοπίζουν την αντίληψη του θεατή. Κίτρινες κουκκίδες υπογραμμίζουν τις αλλαγμένες περιοχές, με συνοδευτική ανάλυση των αλλαγών σε συναίσθημα, ταυτότητα, αφήγηση, και ηθικές ανησυχίες.

Μέτρα

Η οπτική ποιότητα της συλλογής MultiFakeVerse αξιολογήθηκε χρησιμοποιώντας τρία τυπικά μέτρα: Peak Signal-to-Noise Ratio (PSNR); Structural Similarity Index (SSIM); και Fréchet Inception Distance (FID):

Μέτρα ποιότητας εικόνας για το MultiFakeVerse, μετρημένα από PSNR, SSIM, και FID.

Ο βαθμός SSIM 0,5774 αντικατοπτρίζει einen μέτριο βαθμό ομοιότητας, συνεπής με τον στόχο διατήρησης του μεγαλύτερου μέρους της εικόνας ενώ εφαρμόζονται στοχευμένες επεξεργασίες· ο βαθμός FID 3,30 υποδηλώνει ότι οι παραγόμενοι εικόνες διατηρούν υψηλή ποιότητα και ποικιλία· και μια τιμή PSNR 66,30 decibels υποδηλώνει ότι οι εικόνες διατηρούν καλή οπτική πιστότητα μετά την επεξεργασία.

Μελέτη Χρηστών

Μια μελέτη χρηστών διεξήχθη για να δει πόσο καλά οι άνθρωποι θα μπορούσαν να αναγνωρίσουν τις ψευδείς εικόνες στο MultiFakeVerse. Δέκα οκτώ συμμετέχοντες έδειξαν πενήντα εικόνες, ισομερώς διαιρεμένες μεταξύ πραγματικών και επεξεργασμένων παραδειγμάτων που καλύπτουν eine ποικιλία τύπων επεξεργασιών. Κάθε άτομο ζητήθηκε να ταξινομήσει εάν η εικόνα ήταν πραγματική ή ψευδής, και, εάν ψευδής, να αναγνωρίσει ποια επεξεργασία είχε εφαρμοστεί.

Η συνολική ακρίβεια για την απόφαση πραγματικού εναντίον ψευδούς ήταν 61,67%, που σημαίνει ότι οι συμμετέχοντες κατηγοριοποίησαν λανθασμένα τις εικόνες περισσότερο από το ένα τρίτο της φοράς.

Οι συγγραφείς δηλώνουν:

‘Αναλύοντας τις ανθρώπινες προβλέψεις των επιπέδων χειραγώγης για τις ψευδείς εικόνες, το μέσο όριο της τομής μεταξύ των προβλεπόμενων και των πραγματικών επιπέδων χειραγώγης ήταν 24,96%.

‘Αυτό δείχνει ότι δεν είναι εύκολο για τους ανθρώπινους παρατηρητές να αναγνωρίσουν τις περιοχές των χειραγωγών στο σύνολο δεδομένων μας.’

Η δημιουργία του συνόλου δεδομένων MultiFakeVerse απαιτούσε εκτεταμένα υπολογιστικά μέσα: για τη δημιουργία οδηγιών επεξεργασίας, πάνω από 845.000 κλήσεις API πραγματοποιήθηκαν σε μοντέλα Gemini και GPT, με αυτές τις εργασίες να κοστίζουν περίπου 1000 δολάρια· η παραγωγή των εικόνων Gemini κόστισε περίπου 2867 δολάρια· και η παραγωγή εικόνων με GPT-Image-1 κόστισε περίπου 200 δολάρια. Οι εικόνες ICEdit δημιουργήθηκαν τοπικά σε μια NVIDIA A6000 GPU, ολοκληρώνοντας την εργασία σε περίπου είκοσι τέσσερις ώρες.

Δοκιμές

Πριν από τις δοκιμές, το σύνολο δεδομένων χωρίστηκε σε συνόλα εκπαίδευσης, επικύρωσης και δοκιμών, επιλέγοντας πρώτα το 70% των πραγματικών εικόνων για εκπαίδευση· 10% για επικύρωση· και 20% για δοκιμές. Οι επεξεργασμένες εικόνες που παράχθηκαν από κάθε πραγματική εικόνα ανατέθηκαν στο ίδιο σύνολο με την αντίστοιχη αρχική.

Πρόσθετα παραδείγματα πραγματικών (αριστερά) και αλλαγμένων (δεξιά) περιεχομένου από το σύνολο δεδομένων.

Η απόδοση στην ανίχνευση ψευδών μετρήθηκε χρησιμοποιώντας ακρίβεια σε επίπεδο εικόνας (εάν το σύστημα ταξινομεί σωστά ολόκληρη την εικόνα ως πραγματική ή ψευδή) και F1 scores. Για την τοποθέτηση των χειρονομιών, η αξιολόγηση χρησιμοποιούσε Area Under the Curve (AUC), F1 scores, και intersection over union (IoU).

Το σύνολο δεδομένων MultiFakeVerse χρησιμοποιήθηκε εναντίον των leading συστημάτων ανίχνευσης deepfake στο πλήρες σύνολο δοκιμών, με τα αντίπαλα πλαίσια να είναι CnnSpot; AntifakePrompt; TruFor; και το SIDA που βασίζεται σε οπτική γλώσσα. Κάθε μοντέλο αξιολογήθηκε πρώτα σε zero-shot λειτουργία, χρησιμοποιώντας τα αρχικά προ-εκπαιδευμένα βαρίδια χωρίς περαιτέρω προσαρμογή.

Δύο μοντέλα, CnnSpot και SIDA, στη συνέχεια εξευγενίστηκαν στο σύνολο δεδομένων MultiFakeVerse για να αξιολογηθεί εάν η επαναεκπαίδευση βελτίωνε την απόδοση.

Αποτελέσματα ανίχνευσης deepfake στο MultiFakeVerse υπό zero-shot και εξευγενισμένες συνθήκες. Οι αριθμοί σε παρενθέσεις δείχνουν αλλαγές μετά την εξευγενισμό.

Από αυτά τα αποτελέσματα, οι συγγραφείς δηλώνουν:

‘[Τα] μοντέλα που εκπαιδεύτηκαν σε προηγούμενες αλλαγές inpainting δυσκολεύονται να αναγνωρίσουν τις ψευδείς επεξεργασίες μας που βασίζονται σε VLM-Επεξεργασία, ιδιαίτερα, το CNNSpot τείνει να ταξινομεί σχεδόν όλες τις εικόνες ως πραγματικές. Το AntifakePrompt έχει την καλύτερη απόδοση zero-shot με 66,87% μέσο όριο ταξινόμησης και 55,55% F1 score.

‘Μετά την εξευγενισμό στο σύνολο δεδομένων μας, παρατηρούμε μια βελτίωση της απόδοσης και στα δύο CNNSpot και SIDA-13B, με το CNNSpot να ξεπερνά το SIDA-13B τόσο σε μέσο όριο ταξινόμησης (κατά 1,92%) όσο και σε F1-Score (κατά 1,97%).’

Το SIDA-13B αξιολογήθηκε στο MultiFakeVerse για να μετρήσει πόσο ακριβώς θα μπορούσε να εντοπίσει τις περιοχές χειραγώγης μέσα σε κάθε εικόνα. Το μοντέλο εξετάστηκε και στην αρχική του κατάσταση και μετά την εξευγενισμό στο σύνολο δεδομένων.

Στην αρχική του κατάσταση, έφτασε σε einen βαθμό IoU 13,10, einen F1 score 19,92, και einen AUC 14,06, που αντικατοπτρίζουν μια αδύναμη απόδοση τοποθέτησης. Μετά την εξευγενισμό, οι βαθμοί βελτιώθηκαν σε 24,74 για IoU, 39,40 για F1, και 37,53 για AUC. Ωστόσο, ακόμη και με την πρόσθετη εκπαίδευση, το μοντέλο vẫn δυσκολευόταν να βρει ακριβώς πού είχαν εφαρμοστεί οι επεξεργασίες, υπογραμμίζοντας πόσο δύσκολο είναι να ανιχνευθούν αυτού του είδους οι μικρές, στοχευμένες αλλαγές.

Συμπέρασμα

Η νέα μελέτη αποκαλύπτει ένα τυφλό σημείο και στην ανθρώπινη και στην μηχανική αντίληψη: ενώ μεγάλο μέρος της δημόσιας συζήτησης γύρω από τα deepfakes επικεντρώθηκε σε αλλαγές ταυτοτήτων, αυτές οι πιο ήσυχες ‘αφηγηματικές επεξεργασίες’ είναι πιο δύσκολο να ανιχνευθούν και πιθανώς πιο διαβρωτικές μακροπρόθεσμα.

Καθώς τα συστήματα όπως το ChatGPT και το Gemini παίζουν πιο ενεργό ρόλο στη δημιουργία αυτού του είδους περιεχομένου, και καθώς συμμετέχουμε όλο και περισσότερο στην αλλαγή της πραγματικότητας των δικών μας photo-streams, τα μοντέλα ανίχνευσης που βασίζονται στην ανίχνευση груβών χειρονομιών μπορεί να προσφέρουν ανεπαρκή άμυνα. Το MultiFakeVerse δείχνει ότι δεν είναι ότι η ανίχνευση έχει αποτύχει, αλλά ότι τουλάχιστον ένα μέρος του προβλήματος μπορεί να μετατοπίζεται σε μια πιο δύσκολη, πιο αργή μορφή: μια όπου μικρές οπτικές ψέματα συσσωρεύονται ανεπιφύλακτα.

Πρώτη δημοσίευση Πέμπτη, 5 Ιουνίου 2025