Τι σημαίνει η απώλεια του Ηνωμένου Βασιλείου 9,4 δισεκατομμυρίων λιρών από απάτες με deepfake για τις Ηνωμένες Πολιτείες

Νέα στοιχεία από το Ηνωμένο Βασίλειο δείχνουν ότι οι απάτες με deepfake έχουν ξεπεράσει την σποραδική πειραματική φάση και έχουν εισέλθει σε μια φάση βιομηχανικής κλίμακας εγκληματικής δραστηριότητας. Σύμφωνα με αναφορές της Global Anti-Scam Alliance και που καλύπτονται από το The Guardian, οι καταναλωτές στο Ηνωμένο Βασίλειο υπολογίζεται ότι έχουν χάσει 9,4 δισεκατομμύρια λίρες σε απάτες που διευκολύνονται από την τεχνητή νοημοσύνη σε διάστημα εννέα μηνών μέχρι τον Νοέμβριο του 2025, ένας αριθμός που αντανακλά μια δραματική επιτάχυνση και στην κλίμακα και στη σοφιστεία της ψηφιακής απάτης.

Ενώ τα заголовη часто εστιάζουν στην πολιτική παραπληροφόρηση ή στα ιογενή συνθετικά βίντεο, η πιο σημαντική μετατόπιση diễn ra στην ψηφιακή ταυτότητα, τις ψηφιακές πλατφόρμες και τις τραπεζικές υπηρεσίες. Η τεχνολογία deepfake, που ήταν παλαιότερα κυρίως περιορισμένη σε ερευνητικά εργαστήρια και διαδικτυακά cộng đồng, τώρα είναι ενσωματωμένη σε ένα αυξανόμενο οικοσύστημα εργαλείων απάτης. Οι εγκληματικές ομάδες συνδυάζουν λογισμικό ανταλλαγής προσώπου, κλωνοποίηση φωνής που παράγεται από την τεχνητή νοημοσύνη, συνθετική κατασκευή ταυτότητας, καθώς και πλαστογράφηση εγγράφων για να δημιουργήσουν πειστικές, κλιμακωτές επιθέσεις που μπορούν να παραβιάσουν τους παραδοσιακούς ελέγχους επαλήθευσης.

Οι επιπτώσεις εκτείνονται πολύ πέρα από οποιαδήποτε einzel αγορά. Οι απώλειες του Ηνωμένου Βασιλείου προσελκύουν την προσοχή πέρα από τον Ατλαντικό, ιδιαίτερα στις Ηνωμένες Πολιτείες, όπου η τηλε-εγγραφή, η ψηφιακή τραπεζική και οι αυτοματοποιημένες συστήματα λήψης αποφάσεων έχουν γίνει θεμελιώδεις για το εμπόριο.

Η οικονομική επιβάρυνση των απατών με deepfake

Ο αριθμός του Ηνωμένου Βασιλείου των 9,4 δισεκατομμυρίων λιρών είναι ένα σαφές σημάδι του πόσο γρήγορα οι απάτες που ενισχύονται από την τεχνητή νοημοσύνη εξελίσσονται. Πιο ευρεία παγκόσμια δεδομένα ενισχύουν αυτή την πορεία, με την Ομοσπονδιακή Επιτροπή Εμπορίου (FTC) να αναφέρει ότι οι καταναλωτές στις Ηνωμένες Πολιτείες έχασαν περισσότερα από $10 δισεκατομμύρια σε απάτες το 2023, σημειώνοντας την πρώτη φορά που οι αναφερόμενες απώλειες έφτασαν σε αυτό το επίπεδο, με τις απάτες απατεώνων και την απάτη ταυτότητας μεταξύ των κορυφαίων κατηγοριών. Τα δεδομένα του Consumer Sentinel Network της FTC δείχνουν μια σταθερή αύξηση των ψηφιακών схем προσωπικής απάτης, πολλές από τις οποίες υποστηρίζονται ολοένα και περισσότερο από εργαλεία με βάση την τεχνητή νοημοσύνη.

Οι τραπεζικές ιδρύματα ήδη νιώθουν την επίδραση. Το 2023, το Federal Bureau of Investigation Internet Crime Complaint Center αναφέρθηκε σχεδόν $12,5 δισεκατομμύρια σε συνολικές απώλειες από κυβερνοεγκλήματα, με την απάτη ηλεκτρονικού ταχυδρομείου και την απάτη επενδύσεων να αντιπροσωπεύουν σημαντικά τμήματα του συνόλου. Όσο η γεννητική τεχνητή νοημοσύνη μειώνει το εμπόδιο εισόδου για την παραγωγή πιστευτών ψευδών ταυτοτήτων, αυτές οι κατηγορίες είναι πιθανό να διασταυρωθούν πιο συχνά με τεχνικές συνθετικών μέσων.

Το παγκόσμιο τοπίο απάτης αντανακλά επίσης την αυξανόμενη πίεση. Η Nasdaq δημοσίευσε την Παγκόσμια Έκθεση Εγκλημάτων Χρηματοοικονομικού Τομέα, εκτιμώντας ότι οι απάτες και οι απάτες τραπεζών παράγουν περισσότερα από $485 δισεκατομμύρια σε προβλεπόμενες απώλειες παγκοσμίως το 2023. Ενώ δεν όλες αυτές οι δραστηριότητες περιλαμβάνουν deepfakes, οι αναλυτές ολοένα και περισσότερο δείχνουν την γεννητική τεχνητή νοημοσύνη ως einen πολλαπλασιαστή που ενισχύει την αποτελεσματικότητα και την πειστικότητα των εγκληματικών επιχειρήσεων.

Το μέγεθος της απάτης ταυτότητας στο Ηνωμένο Βασίλειο είναι αποτέλεσμα της σύγκλισης της υψηλής ψηφιακής υιοθέτησης, των ανοιχτών πλαισίων τραπεζικής και της ευρείας χρήσης τηλε-ταυτοτήτων έχει δημιουργήσει γόνιμο έδαφος για εκμετάλλευση. Οι ίδιες δομικές συνθήκες υπάρχουν στις Ηνωμένες Πολιτείες, όπου οι εταιρείες χρηματοοικονομικών υπηρεσιών, οι πλατφόρμες της οικονομίας των γιγ και οι διαδικτυακοί χώροι αγορών βασίζονται πολύ στις αυτοματοποιημένες έλεγχους ταυτότητας και τη τηλε-εγγραφή.

Πώς η απομονωμένη προσωπική απάτη έχει γίνει κλιμακωτές επιχειρήσεις

Από τότε που ο όρος αυτός επινοήθηκε για πρώτη φορά το 2017, η απάτη με deepfake έχει εξελιχθεί σε φάσεις. Οι πρώτες περιπτώσεις συχνά περιελάμβαναν μοναδικές προσπάθειες απάτης, όπως ψευδείς φωνές εκτελεστικών σε схемές απάτης ηλεκτρονικού ταχυδρομείου. Μια ευρέως αναφερόμενη περίπτωση το 2019 saw εγκληματίες που χρησιμοποιούν κλωνοποίηση φωνής που παράγεται από την τεχνητή νοημοσύνη για να μιμηθούν τον CEO και να μεταφέρουν ψευδώς 220.000 ευρώ από μια βρετανική εταιρεία ενέργειας, όπως αναφέρθηκε από το The Wall Street Journal.

Η τρέχουσα φάση είναι πιο συστηματική. Οι εγκληματικές δικτύωση τώρα συσκευάζουν συνθετικά πακέτα ταυτότητας που περιλαμβάνουν κλωνοποίηση φωνής που παράγεται από την τεχνητή νοημοσύνη, συνθετικά βιομετρικά αυτογράφηση και αντίστοιχα δεδομένα εγγραφής. Οι ανοιχτές πηγές ανταγωνιστικές δικτύωση και τα εργαλεία ανταλλαγής προσώπου έχουν μειώσει τα τεχνικά εμπόδια. Αυτό που απαιτούσε chuyênική εμπειρογνωσία μπορεί τώρα να συναρμολογηθεί μέσω διαδικτυακών αγορών και κρυπτογραφημένων πλατφορμών μηνυμάτων.

Έρευνα από την Europol έχει προειδοποιήσει ότι η γεννητική τεχνητή νοημοσύνη επιταχύνει τα μοντέλα απάτης-ως-υπηρεσία, επιτρέποντας στις οργανωμένες εγκληματικές ομάδες να αυτοματοποιούν τη φισίνγκ, να δημιουργούν πολυγλωσσικά σενάρια απάτης και να κατασκευάζουν πιστοποιητικά ταυτότητας σε κλίμακα. Η αξιολόγηση απειλής της υπηρεσίας για το 2023 υπογραμμίζει πώς τα εργαλεία συνθετικών μέσων μειώνουν το κόστος ενώ αυξάνουν cả την εμβέλεια και την πειστικότητα.

Αυτή η μετατόπιση έχει σημασία επειδή οι συστήματα επαλήθευσης ταυτότητας σχεδιάστηκαν για να επιβεβαιώσουν στατικά σημεία δεδομένων. Οι παραδοσιακοί έλεγχοι συχνά εστιάζουν στην αυθεντικότητα εγγράφων, την επαλήθευση βάσεων δεδομένων ή την απλή αντιστοίχιση αναγνώρισης προσώπου. Η απάτη με deepfake εκμεταλλεύεται τις лакκώσεις μεταξύ αυτών των συστημάτων όπου τα κλωνοποιημένα πρόσωπα που παράγονται από την τεχνητή νοημοσύνη μπορούν να περάσουν τους βασικούς ελέγχους και τα συνθετικά στοιχεία ταυτότητας μπορούν να συνδυαστούν με πραγματικά και fabriqué στοιχεία για να αποφευχθεί η διασταύρωση. Αυτό σημαίνει ότι οι απατεώνες μπορούν να εξασκηθούν στις επιθέσεις τους επανειλημμένα, βελτιώνοντας τις εξόδους μέχρι να πληρωθούν οι κατωφλίσεις ανίχνευσης.

Το αποτέλεσμα είναι ένας κύκλος στον οποίο τα αμυντικά συστήματα πρέπει να εξελίσσονται συνεχώς, ενώ οι επιτιθέμενοι επωφελούνται από την κλιμακωτή αυτοματοποίηση.

Το τοπίο κινδύνου στις Ηνωμένες Πολιτείες

Οι Ηνωμένες Πολιτείες μοιράζονται πολλές από τις ίδιες ιδιότητες που έχουν συνεισφέρει στην αύξηση της απάτης με deepfake στο Ηνωμένο Βασίλειο. Η τηλε-εγγραφή έχει γίνει τυποποιημένη πρακτική στις τραπεζικές και τις εταιρείες fintech όπου οι ψηφιακές πλατφόρμες χειρίζονται όλα, από ενοικιάσεις αυτοκινήτων μέχρι κρατήσεις ξενοδοχείων και αγορών χωρίς προσωπικούς ελέγχους ταυτότητας.

Η ανάπτυξη της βιομετρικής αυθεντικοποίησης έχει προσθέσει μια άλλη διάσταση όπου εργαλεία αναγνώρισης προσώπου και αυτογράφηση με βάση το selfie είναι ευρέως διαθέσιμα για να διευκολύνουν την τηλε-εγγραφή. Όταν το βίντεο deepfake μπορεί να симулирует πραγματικές κινήσεις προσώπου, αυτά τα συστήματα αντιμετωπίζουν αυξανόμενη πίεση.

Ναι, αυτά τα εργαλεία αυτοματοποίησης έχουν δημιουργήσει κέρδη αποδοτικότητας και έχουν βελτιώσει την εμπειρία χρήστη, επιτρέποντας στις εταιρείες ελектронικού εμπορίου και τις αγορές peer-to-peer να επεξεργαστούν εκατομμύρια συναλλαγών καθημερινά με ελάχιστη τριβή, αλλά έχουν ανοίξει τις οργανώσεις σε μια σειρά από νέες ευπάθειες.

Οι τραπεζικές εταιρείες πρέπει να ισορροπήσουν την άνεση του πελάτη με την ισχυρή πρόληψη απάτης. Οι υπερβολικά επιθετικοί έλεγχοι κινδυνεύουν να απομακρύνουν τους νόμιμους χρήστες, ενώ οι ανεπαρκείς φραγμοί αφήνουν τις επιχειρήσεις σε κίνδυνο αυξανόμενων απωλειών.

Εκθεση πλατφόρμας πέρα από τις χρηματοοικονομικές υπηρεσίες

Οι χρηματοοικονομικές υπηρεσίες συχνά λαμβάνουν την περισσότερη προσοχή στις συζητήσεις για απάτες, αλλά δεν είναι η μόνη τομέας που κινδυνεύει. Η ξενοδοχειακή βιομηχανία, το gaming, η αυτοκινητοβιομηχανία και οι διαδικτυακοί χώροι αγορών όλες εξαρτώνται από την επαλήθευση ταυτότητας για να αποτρέψουν την κακοποίηση, τις παραβιάσεις πρόσβασης που περιορίζονται από την ηλικία και την απάτη πληρωμών.

Μια συστημική ταυτότητα που έχει παραβιαστεί μπορεί να επιτρέψει ευρύτερη εγκληματική δραστηριότητα, συμπεριλαμβανομένης της πλύσης χρημάτων και της πρόσβασης σε ρυθμιζόμενες υπηρεσίες λόγω της διασυνδεδεμένης φύσης των ψηφιακών οικοσυστημάτων σημαίνει ότι οι ευπάθειες σε einen τομέα μπορούν να εξαπλωθούν γρήγορα. Μια συνθετική ταυτότητα που δημιουργήθηκε για να ανοίξει έναν τραπεζικό λογαριασμό μπορεί αργότερα να χρησιμοποιηθεί για να καταχωρήσει πολλές πλατφόρμες, αυξάνοντας τον πιθανό κίνδυνο.

Οι cloud-υπηρεσίες επαλήθευσης και οι API-κεντρικές ενσωματώσεις έχουν διευκολύνει την συμμόρφωση για τις επιχειρήσεις όλων των μεγεθών ενώ ταυτόχρονα, η κεντρικοποίηση δημιουργεί συγκεντρωμένα στόχους. Οι επιτιθέμενοι μπορούν να μελετήσουν τους κοινούς ροές επαλήθευσης και να προσαρμόσουν τις εξόδους deepfake ανάλογα.

Αναπτυσσόμενη ανθεκτικότητα ενάντια στην απάτη με deepfake

Η εξάρτηση από μία μόνο λύση ή σημείο προστασίας δεν μπορεί να εξαλείψει完全 τον κίνδυνο και είναι επομένως ένας ανεπαρκής τρόπος αντιμετώπισης της αύξησης της απάτης με deepfake. Οι εμπειρογνώμονες τονίζουν τη σημασία της συνδυασμού αυθεντικοποίησης εγγράφων, αναλύσεων βιομετρικών, αναλύσεων συμπεριφοράς και ανίχνευσης ανωμαλιών εντός προσαρμοστικών πλαισίων κινδύνου.

Η σοφιστεία της τεχνητής νοημοσύνης εξελίσσεται συνεχώς, επομένως η συνεχής εκπαίδευση μοντέλων είναι απαραίτητη για να跟πα την πρόοδο που κάνει η τεχνητή νοημοσύνη. Οι στατικές κατωφλίσεις και οι στρατηγικές μιας φοράς δεν είναι κατάλληλες. Η συνεργασία μεταξύ των βιομηχανιών και με τις υπηρεσίες επιβολής του νόμου είναι επίσης κρίσιμη, δεδομένης της διασυνοριακής φύσης των ψηφιακών εγκληματικών δικτύων.

Η ευαισθητοποίηση των καταναλωτών επίσης έχει έναν ρόλο να παίξει, μια концепτία που μπορεί να υποστηριχθεί από δημόσιες αναφορές και διαφάνεια γύρω από τακτικές απάτης βοηθούν στην μείωση του ποσοστού θυμάτων. Η αύξηση των απωλειών στο Ηνωμένο Βασίλειο χρησιμεύει ως σήμα προειδοποίησης παρά ως một απομονωμένη ανωμαλία. Όσο οι ικανότητες της γεννητικής τεχνητής νοημοσύνης επεκτείνονται και τα κόστη μειώνονται, οι τακτικές απάτης θα συνεχίσουν να εξελίσσονται. Οι οργανώσεις που βασίζονται σε συστήματα τηλε-επαλήθευσης πρέπει να αξιολογήσουν πόσο ανθεκτικά είναι τα συστήματα τους ενάντια στη χειραγώγηση των συνθετικών μέσων.

Για τις εταιρείες που λειτουργούν στις Ηνωμένες Πολιτείες, η ερώτηση γίνεται πόσο γρήγορα τα αμυντικά συστήματα μπορούν να ωριμάσουν καθώς η απάτη με deepfake αυξάνεται σε σοφιστεία και ταχύτητα, όπως φαίνεται από την εμπειρία του Ηνωμένου Βασιλείου σχετικά με το πόσο γρήγορα οι απάτες που διευκολύνονται από την τεχνητή νοημοσύνη μπορούν να μεταφραστούν σε απώλειες δισεκατομμυρίων λιρών.

Όσο οι χρηματοοικονομικές υπηρεσίες, οι διαδικτυακοί χώροι και οι παρόχοι ταυτότητας επανεξετάζουν την έκθεσή τους, η εστίαση μετατοπίζεται από τις απομονωμένες περιπτώσεις απάτης σε συστημική ανθεκτικότητα. Η απάτη με deepfake έχει εισέλθει σε μια φάση που ορίζεται από την αυτοματοποίηση, την κλίμακα και την διατομεακή επίδραση. Η απάντηση θα πρέπει να ταιριάζει.