Χρησιμοποιώντας την «Πιθανοτητα» ως Μέτρο Ανίχνευσης Deepfake

Εάν τα AI-γεννημένα βίντεο και ήχος γίνουν αρκετά καλά, οι ανιχνευτές deepfake που βασίζονται σε οπτικά артеφάκτ ή άλλα παραδοσιακά σήματα δεν θα λειτουργούν πλέον. Αλλά δεδομένου πόσο σπάνια οι άνθρωποι απομακρύνονται από προβλέψιμη συμπεριφορά, ίσως η «πιθανοτητα» θα μπορούσε να υιοθετηθεί πιο βαθιά ως σήμα του εάν ένα βίντεο ή μια είδηση είναι πιθανό να είναι αληθινό.

Γνώμη Στις αρχές της δεκαετίας του 1990, ο σεβαστός πρώην Βρετανός ποδοσφαιριστής και τηλεοπτικός σχολιαστής David Icke αποκάλυψε σε μια τηλεοπτική εκπομπή ότι ήταν «ο γιος του Θεού» – μια παράξενη και απρόσμενη αποκάλυψη που θα εξελισσόταν τις επόμενες δεκαετίες σε μια σταθερή και περιπλεχόμενο συνωμοτικό théory για μια μυστική και ισχυρή παγκόσμια καμπαλά «ερπετών ανθρώπων».

Με την υιοθέτηση του διαδικτύου ακόμη κάποια χρόνια μακριά, και την έλευση των κοινωνικών μέσων ακόμη πιο μακριά στο μέλλον, η καθαρή δυσαρμονία μεταξύ της φήμης του Icke και της φύσης των νέων του επιτευγμάτων είχε einen βαθύ αντίκτυπο στο Βρετανικό κοινό – όχι μόνο λόγω της πλήρης έλλειψης контекstu ή οποιασδήποτε μορφής προετοιμασίας για αυτή τη μεγάλη στροφή, από ένα γνωστό και καθιερωμένο αθλητικό πρόσωπο.

Περισσότερα από είκοσι χρόνια αργότερα, ένα παρόμοιο και πολύ πιο σκοτεινό είδος αυτής της κοινωνικής σοκ συνέβη, όταν ο αγαπητός εκπρόσωπος φιλανθρωπίας και παιδικής τηλεόρασης Jimmy Savile αποκαλύφθηκε μετά θάνατον ως σειριακός και λαίμαργος ζωτικός σεξουαλικός παραβάτης που είχε χρησιμοποιήσει την καθαρή δημόσια εικόνα του για να διευκολύνει τις εγκληματικές του ενέργειες.

Η επόμενη ερεύνα της αστυνομίας Operation Yewtree θα αποκαλύψει πολλούς περισσότερους Βρετανούς διασημότητες με μακρά ιστορία σεξουαλικών παραπτωμάτων· αργότερα, η δίκη του Harvey Weinstein θα οδηγήσει σε μια παρόμοια ανακάλυψη σεξουαλικών παραπτωμάτων διασημοτήτων στις ΗΠΑ, εξελισσόμενη στο κίνημα #metoo, και μόνιμα ενσωματωμένη στην αμερικανική κουλτούρα σε βγάζοντας όπως The Morning Show. Τα «σοκ» ειδήσεις φαίνεται να αναπτύσσουν ένα νέο και απότομο πρότυπο – ένα που θα υιοθετηθεί τελικά από τους επιτιθέμενους deepfake.

Το Τέλος των «Παραδοσιακών» Ανιχνευτών Deepfake;

Εάν η τεχνολογία του διαδικτύου και η τεχνητή νοημοσύνη υπήρχαν στη δεκαετία του 1990, κανένα προβλεπτικό σύστημα στον κόσμο δεν θα μπορούσε να προβλέψει τις αποκαλύψεις του Icke, οι οποίες (όπως θυμάμαι καλά) δεν είχαν προηγουμένως προαναγγελθεί στα χρόνια που οδηγούσαν στο γεγονός.

Αλλά τότε, εάν η τεχνητή νοημοσύνη υπήρχε, μπορεί να χρειαζόταν κάποιο χρόνο για να πείσει ένα ευρύτερο κοινό ότι οι δηλώσεις του Icke δεν ήταν το προϊόν Google Veo 3, ή ενός άλλου νέου είδους υπερ-πραγματικού audio/βίντεο deepfake πλαισίων.

Είναι μόνο τα τελευταία 6-12 μήνες που οι μεθόδοι AI deepfake έχουν γίνει επαρκώς αποτελεσματικές για να εκπληρώσουν χρόνια των μέσων ενημέρωσης για παρέμβαση deepfake στις εκλογές, και ικανές να παράγουν το είδος γρήγορης επιθέσεως που είναι ψευδής, αλλά δύσκολο να εξαφανιστεί σε μια ολοένα και πιο πιστευτή κουλτούρα.

Μέχρι σήμερα, η έξοδος βίντεο AI συνήθως δεν φτάνει στο真正 réalισμό, περιορισμένη από τεχνικούς εμποδίων και όλο και περισσότερο πολωμένη από ένα ευρύ γκập μεταξύ των περιοριστικών δυτικών μοντέλων και των ανοικτών πηγών της Κίνας^**.

Ωστόσο, παρατηρώ ολοένα και περισσότερο στη βιβλιογραφία μια επικείμενη παραίτηση από αυτόν τον ψυχρό πόλεμο, για παράδειγμα, στη νέα εργασία Performance Decay in Deepfake Detection^†:

‘[We] assume that deepfake videos will continue to contain machine-learnable features which reliably distinguish them from genuine videos. As the capabilities of generative AI continue to advance rapidly, this assumption may well break down.

‘In such a scenario, watermarking and other provenance tracking methods will offer the only recourse for maintaining trust in digital media.’

Ωστόσο, η ίδια εργασία παραδέχεται ότι οι λύσεις που βασίζονται στην προέλευση, όπως η πρωτοβουλία Content Authenticity Initiative (και πολλές μικρότερες ερευνητικές προσφορές των τελευταίων 7-8 ετών) απαιτούν τέτοια ευρεία υιοθέτηση, ώστε να είναι αρεστές; και η εργασία τελειώνει με μια γενική σημείωση υποχώρησης, αν όχι ήττας.

Εάν οι μεθόδοι ανίχνευσης deepfake βασισμένες σε ήχο-εικόνα εξελιχθούν από την γεννητική AI, και η παγκόσμια υιοθέτηση ενός εμβυθιστικού συστήματος watermarking ή προέλευσης πέσει στα διαφορετικά логιστικά εμπόδια, ποιο κοινό κεντρικό χαρακτηριστικό θα μπορούσε να αντικαταστήσει αυτά ως δείκτες πιθανώς ψευδούς εξόδου; Ή πρέπει να υποταχθούμε σε ένα κόσμο όπου όλα τα μέσα είναι υπό αμφισβήτηση, και το Liar’s Dividend επικρατεί;

Γραφικές Γνώσεις

Φαίνεται ότι είναι ώρα να αξιοποιήσουμε πιο βαθιά την πιθανοτητα και πιθανότητα των «αναφερθέντων γεγονότων» ως σήμα χαρακτηριστικό στην ανίχνευση deepfake. Περαιτέρω,既然 τα συστήματα γεννητικής AI για βίντεο και ήχο συ렴νονται ολοένα και περισσότερο, μπορεί να είναι καιρός για τις ξεχωριστές ερευνητικές γραμμές του «ψευδούς ειδήσεων» (ως μια γεγονός-βασισμένη αφήγηση) και ψευδούς εικόνας/βίντεο να συ렴θούν επίσης.

Μια πιθανοτητα μετρική deepfake δεν είναι το ίδιο με RAG-aided επιβεβαίωση γεγονότων, όπου ένα μοντέλο AI μπορεί να φέρει τρέχοντα αποτελέσματα ιστού για να αποκτήσει γνώση γεγονότων που συμβαίνουν μετά την ημερομηνία λήξης του, και/ή για να επικυρώσει τις αξιώσεις του.

Αντίθετα, θα εκτελεί προβλέψεις με βάση γενικά ενδεικτικά στατιστικά πρότυπα, που προέρχονται από ιστορικά πρότυπα που συμμορφώνονται με μια τρέχουσα έρευνα.

Σε αυτό το πλαίσιο, μια μεθοδος πιθανοτητας είναι πιο κοντά στη στατιστική ανάλυση παρά σε πιο σύγχρονες προσεγγίσεις στη τρέχουσα σκηνή της μηχανικής μάθησης.

Αν και προηγουμένως επισκιάστηκε από πιο σύγχρονες προσεγγίσεις της εποχής των Transformers, οι γραφικές γνώσεις κάνουν μια κάποια επιστροφή στο χώρο της επιχείρησης, και φαίνεται να είναι προσαρμοσμένες στην πιθανή ανάπτυξη μετρήσεων «πιθανοτητας» στην ανίχνευση deepfake.

Μια απλοποιημένη γραφική γνώσεων που δείχνει πώς οι άνθρωποι, οι τόποι, τα έργα τέχνης και τα γεγονότα μπορούν να συνδεθούν μέσω επισημασμένων σχέσεων, επιτρέποντας στα μηχανήματα να συλλογίζονται πραγματικές οντότητες και τις συνδέσεις τους. Source

Μια γραφική γνώσεων είναι ένας τρόπος οργάνωσης της πληροφορίας με τη χαρτογράφηση πραγματικών πραγμάτων, όπως οι άνθρωποι, οι εταιρείες, τα γεγονότα ή οι ιδέες, σε ένα δίκτυο συνδεδεμένων γεγονότων.

Κάθε υπο-οντότητα είναι ένας κόμβος, και οι συνδέσεις μεταξύ τους (άκρες) περιγράφουν πώς σχετίζονται. Για παράδειγμα, ‘Microsoft’ (ένας κόμβος) μπορεί να συνδεθεί με ‘OpenAI’ (ένας άλλος κόμβος) με μια άκρη που λέει ‘είναι πελάτης του’. Αυτές οι συνδέσεις συχνά αποθηκεύονται σε γραφικές βάσεις δεδομένων και ακολουθούν μια δομή υποκείμενο-πράξη-αντικείμενο, όπως ‘Microsoft είναι πελάτης του OpenAI’.

Μόνιμη Μνήμη

Μια κινεζική μελέτη από τον Σεπτέμβριο του этого έτους πρότεινε μια μέθοδο εκπαίδευσης που χρησιμοποιεί γραφική συλλογιστική για να ανιχνεύσει λεπτές ασυνέπειες σε multimodal deepfakes.

Αντί να παράγει λόγους ή λεπτοβελτιώνει μεγάλους μοντέλους, το σύστημα ανακτά ζευγάρια εικόνας-κειμένου, κατασκευάζει einen γραφικό, και βαθμολογεί συνδέσεις, για να ανακτά τα πιο σχετικά παραδείγματα, και αυτά οδηγούν την κρίση του μοντέλου χωρίς την ανάγκη για νέα εκπαίδευση:

Μια επισκόπηση του πλαισίου GASP-ICL, που βελτιώνει την ανίχνευση deepfake με τη συνδυασμένη χρήση γραφικής επιλογής δειγμάτων και εκμάθησης σε контекστο, επιτρέποντας σε ένα παγωμένο μοντέλο όρασης-γλώσσας να ταξινομήσει ζευγάρια εικόνας-κειμένου ως πραγματικά ή ψευδή, χωρίς εκπαίδευση ή λεπτοβελτίωση.  Source

Αυτό είναι πιθανότατα η κοντινότερη εργασία, τουλάχιστον αυτή που έχει διασχίσει τον δρόμο μου, σε μια «ενημερωμένη» και ιστορικά-ενημερωμένη προσέγγιση στην αξιολόγηση και επαλήθευση των νέων μέσων εξόδου. Για το μεγαλύτερο μέρος, οι προσεγγίσεις της υπολογιστικής όρασης продолжают να αναλύουν εικόνες (συμπεριλαμβανομένων καρέ βίντεο και χρονικές ανωμαλίες που περιλαμβάνουν πολλαπλά καρέ) ενώ τα πλαίσια ανίχνευσης «ψευδούς ειδήσεων» συνεχίζουν να τονίζουν δεδομένα κειμένου, ακόμη και σε multimodal έργα.

Παραπανίσια Ιδιότητα

Η πρόκληση ενός προβλεπτικού συστήματος αυτού του είδους είναι το πεδίο της επιτήρησης που μπορεί να είναι απαραίτητο για να κάνει την προσέγγιση πλήρως αποτελεσματική – τουλάχιστον πέρα από την ανάλυση διασημοτήτων και δημόσιων προσώπων, για τα οποία ήδη υπάρχει ελεύθερα διαθέσιμη δεδομένα.

Πιθανότατα η πιο παρόμοια τρέχουσα γραμμή έρευνας είναι το πεδίο της προ-εγκλήματος, που etiquetάρει διαφορετικά multimodal ενδείξεις ως «υποψία», και παρουσιάζεται ως ένας σταθερός AI σκιάχτρα σε βγάζοντας όπως Person of Interest (2011-2016), και Minority Report (2002).

Ενώ ένα σύστημα επιτήρησης τύπου Person of Interest θα παρήγαγε οπτικά αποτελέσματα, είναι απίθανο ότι η δυτική κουλτούρα θα μπορούσε να δικαιολογήσει το επίπεδο προσωπικής εμβάθυνσης που επιβάλλουν τα κινεζικά εσωτερικά δίκτυα στους πολίτες της.

Επομένως, σε σχέση με πιθανές ψευδείς ειδήσεις για μη-διασημότητες, μόνο οι κυβερνητικές υπηρεσίες όπως η αστυνομία (καθώς και τα μητρώα γεννήσεων και θανάτων και τα γραφεία φορολογίας) θα είχαν αρκετές ιστορικές πληροφορίες για να ενημερώσουν πιθανότητες σε μια γραφική ροή; και ακόμη και αυτές θα χρειαζόταν CCCP-στυλ θέληση, ικανότητα, νομοθεσία και πόρους για να συμπεριλάβουν τους μέσους πολίτες στην κάλυψη και τις αναλύσεις τους (δηλ. πέρα από τα banal αλλά υποχρεωτικά σημεία δεδομένων όπως τα διαβατήρια και τα οχήματα).

Βαθμολογία Πιθανοτητας

Φαίνεται πιθανό ότι η πιθανή αποτελεσματικότητα ενός συστήματος αυτού του είδους θα περιοριζόταν στις πιο φανερές (τρέχουσες) χρήσεις περιπτώσεων για περιεχόμενο deepfake: αποσταθεροποίηση (κρατικά υποστηριζόμενα deepfakes); διασημότητες και ‘άγνωστες’ πορνογραφικές deepfakes (οι οποίες μπορούν και οι δύο να θεωρηθούν κακόβουλες, αν και η δεύτερη περίπτωση τείνει να προσελκύει βαθύτερη μέディア ανησυχία); απάτη (συμπεριλαμβανομένων audio/βίντεο deepfakes που σχεδιάζονται για να εκτελέσουν ‘απατεωνικές επιθέσεις‘); και πολιτική δολοφονία χαρακτήρα.

Ένα σύστημα βασισμένο στις γνώσεις θα χρειαζόταν μια κλίμακα πιθανοτήτων για μια ποικιλία πιθανών γεγονότων. Σε μια άκρη του φάσματος, κοινά ανθρώπινα λάθη όπως αμφισβητούμενη οικονομική διαχείριση, απιστία, εθισμός, ασεβής συμπεριφορά, κ.λπ.; στην άλλη… αποκαλύπτοντας ότι είσαι ο γιος του Θεού σε μια ζωντανή τηλεοπτική εκπομπή (ή γεγονότα παρόμοιου μεγέθους και επίδρασης).

Ακόμη και στην τελευταία περίπτωση, προσωπικά ιστορικά παράγοντες για οποιοδήποτε άτομο θα βάρυναν την πιθανή έκβαση: ένας εξέχων πολιτικός που έχει δημόσια αμφισβητήσει σε αμφισβητούμενα θέματα (όπως η αλήθεια των αποστολών στη σελήνη της δεκαετίας του 1960/1970) για να κερδίσει κεφάλαιο με einen ολοένα και περισσότερο «εναλλακτικά-ενημερωμένο» εκλογικό σώμα, μπορεί να κερδίσει πρόσθετη τζόκερ κατάσταση σε ρουτίνες επαλήθευσης, σε σύγκριση με τους πιο αυστηρούς ομόλογούς του.

Στην περίπτωση της διασημότητας πορνογραφίας, υπάρχει επαρκής πραγματικός контекστ (δηλ. η διαρροή φωτογραφιών διασημοτήτων το 2012, μεταξύ άλλων – assez σπάνιων – περιστατικών) για να παράγει μια μετριάσμενη Liar’s Dividend, σε ορισμένα контекστα; αλλά既然 αυτά τα περιστατικά-εξαιρέσεις τείνουν να λειτουργούν ως εξαιρέσεις που αποδεικνύουν τον κανόνα, η majority των τρέχοντων diffusion-βασισμένων διασημότητας πορνογραφικών βίντεο θα θεωρούνταν εξαιρετικά «απίθανο» (αυτό όμως δεν λύνει το ζήτημα της αναπαράστασης των ταυτοτήτων για τέτοιους σκοπούς).

Σε σχέση με την εθνική διαταραχή, υπάρχει σημαντική πλούσια στατιστική δεδομένα που μπορούν να βοηθήσουν στην αξιολόγηση της πιθανοτητας «καταστροφικών» αναφορών. Ακόμη και στην αρχαία ιστορία, φαινομενικά «απρόσμενες» γεγονότα όπως η έκρηξη του ανώνυμου ηφαιστείου Βεζούβιος το 79 μ.Χ. προηγήθηκαν, εάν είχες δώσει αρκετή προσοχή; και εκτός από τη διαθεσιμότητα πολλών κυβερνητικών και μη-κυβερνητικών ροών, η εξελισσόμενη ικανότητα της AI να εξάγει δομή από ακατέργαστα δεδομένα μπορεί να παρέχει πρόσθετο ιστορικό контекστ για βαθμολογία πιθανοτητας.

Συμπέρασμα

Ακόμη και ένα καλά εφαρμοσμένο προβλεπτικό σύστημα αυτού του είδους δεν θα μπορούσε να λάβει υπόψη του την τυχαία τύχη, τις πράξεις του Θεού, τις απρόσμενες εμφανίσεις, ή τις κακόβουλες ενέργειες που σχεδιάστηκαν μακριά από οποιαδήποτε επιτήρηση.

Περισσότερο, ο巨αντικός όγκος και το βάθος των δεδομένων που θα χρειαζόταν, για να παρέχει κάλυψη επίσης για μη-διασημότητες, θα ήταν ένα πολιτικό εμπόδιο – τουλάχιστον, για το παρόν.

Ωστόσο, οι επιλογές φαίνεται να στενεύουν; η ανάλυση όρασης είναι έτοιμη να αποτύχει μπροστά στην βελτιωμένη γεννητική AI, ενώ τα συστήματα επαλήθευσης και προέλευσης φέρουν einen βαρύ φόρο τεχνικής οφειλής, και τριβή ενάντια στην υιοθέτηση. Αυτό καθιστά λύσεις όπως η Content Authenticity Initiative, και το ανεπιτυχές σύστημα Metaphysic.ai face-copyrighting Metaphysic Pro, προκλήσεις για να γίνουν δημοφιλείς.

Στην ευρύτερη χρήση τους, τα RAG-βασισμένα συστήματα μπορούν μόνο να καθορίσουν εάν μια αρχική πηγή υποστηρίζει μια ανεπιβεβαίωτη αξίωση; και既然 πολλές μεγάλες (αληθινές) ειδήσεις αναπτύσσονται χωρίς προηγούμενο контекστ, η έλλειψη επικύρωσης από αρχικές πηγές δεν είναι απαραίτητα σημαντική.

Η αξία τους μπορεί να αποδειχθεί μεγαλύτερη εάν μπορέσουν να αποτελέσουν μέρος ενός μεγαλύτερου οικοσυστήματος δεδομένων που ασχολείται με το ένα που τα περισσότερα τρέχοντα μορφές AI βρίσκουν προκλήσεις – ιστορικό контекστ.

* Δεν πρέπει να συγχέεται με τις πρώτες αυτο-κωδικοποιητές που έκαναν το ντεμπούτο τους το 2017 και θα αντικατασταθούν από ανώτερες προσεγγίσεις.

^† https://arxiv.org/abs/2511.07009

^** Το οποίο μπορεί συνήθως να τρέξει ελεύθερα σε πιο ισχυρά σπίτια PC, αντί να είναι διαθέσιμο μόνο μέσω gate-kept API όπως το ChatGPT και η σειρά Veo.

^††† Παραλείποντας τις νόμιμες ψυχαγωγικές χρήσεις, όπως οι επαγγελματικές οπτικές εφέ στις κινηματογραφικές και τηλεοπτικές παραγωγές.

Πρώτη δημοσίευση την Πέμπτη, 13 Νοεμβρίου 2025