Το 2024, τα Deepfakes Έρχονται στο Προσκήνιο. Δείτε Πώς οι Επιχειρήσεις Μπορούν να Προστατεύσουν τον Εαυτό τους

Από τουλάχιστον τις εκλογές του 2016, όταν οι ανησυχίες σχετικά με την παραπληροφόρηση εξερράγησαν στην δημόσια συνείδηση, οι εμπειρογνώμονες ήχησαν τον κώδωνα του κινδύνου για τα deepfakes. Οι επιπτώσεις αυτής της τεχνολογίας ήταν – και παραμένουν – τρομακτικές. Η ανεξέλεγκτη διάδοση υπερ-ρεαλιστικών συνθετικών μέσων μαζικής ενημέρωσης συνιστά απειλή για όλους – από πολιτικούς έως καθημερινους ανθρώπους. Σε ένα εύφλεκτο περιβάλλον που ήδη χαρακτηρίζεται από ευρεία αμφισβήτηση, τα deepfakes υποσχέθηκαν να αναπτήξουν τις φλόγες ακόμη περισσότερο.

Ως оказалось, οι φόβοι μας ήταν προκαταλήψεις. Η τεχνολογική εξειδίκευση που απαιτείται για να δημιουργηθούν deepfakes, σε συνδυασμό με την συχνά κακή ποιότητά τους, σήμαινε ότι για τουλάχιστον τις τελευταίες δύο προεδρικές εκλογικές διαδικασίες, παρέμειναν ένα ελάσσοντα πρόβλημα.

Αλλά όλα αυτά είναι على το σημείο να αλλάξουν – αλλάζουν ήδη. Τα τελευταία δύο χρόνια, η τεχνολογία του γεννητικού AI έχει εισέλθει στο mainstream, απλοποιώντας δραματικά τη διαδικασία δημιουργίας deepfakes για τον μέσο καταναλωτή. Οι ίδιες καινοτομίες έχουν αυξήσει σημαντικά την ποιότητα των deepfakes, ώστε σε ένα τυφλό τεστ, οι περισσότεροι άνθρωποι δεν θα μπορούσαν να διακρίνουν ένα ψευδόμενο βίντεο από το πραγματικό.

Φέτος, ιδιαίτερα, abbiamo αρχίσει να βλέπουμε ενδείξεις του πώς αυτή η τεχνολογία μπορεί να επηρεάσει την κοινωνία αν δεν ληφθούν μέτρα για την καταπολέμησή της. Πέρυσι, για παράδειγμα, μια φωτογραφία του Πάπα Φραγκίσκου που φορούσε ένα ασυνήθιστα στυλάτο παλτό έγινε viral και θεωρήθηκε αυθεντική από πολλούς. Ενώ αυτό μπορεί να φαίνεται, σε ένα επίπεδο, σαν ένα αθώο κομμάτι διασκέδασης, αποκαλύπτει την επικίνδυνη δύναμη των deepfakes και πόσο δύσκολο είναι να εμποδιστεί η παραπληροφόρηση μια φορά που έχει αρχίσει να εξαπλώνεται. Μπορούμε να περιμένουμε να βρούμε πολύ λιγότερο αστεία – και πολύ πιο επικίνδυνα – παραδείγματα αυτού του είδους της ιογενούς ψευδαισθήνης στα επόμενα μήνες και χρόνια.

Για αυτόν το λόγο, είναι απαραίτητο ότι οι οργανισμοί όλων των ειδών – από τα μέσα ενημέρωσης έως τις финάνσεις, τις κυβερνήσεις και τις πλατφόρμες κοινωνικών μέσων – λάβουν μια προληπτική στάση έναντι της ανίχνευσης των deepfakes και της επαλήθευσης της αυθεντικότητας του περιεχομένου. Μια κουλτούρα της εμπιστοσύνης μέσω προστατευτικών μέτρων πρέπει να καθιερωθεί τώρα, πριν από μια τσουνάμι deepfakes μπορεί να σβήσει την κοινή μας κατανόηση της πραγματικότητας.

Κατανοώντας την απειλή των deepfakes

Πριν διεισδύσουμε σε αυτό που μπορούν να κάνουν οι οργανισμοί για να καταπολεμήσουν αυτή την άνοδο των deepfakes, αξίζει να επεκταθούμε στο γιατί τα εργαλεία προστασίας είναι απαραίτητα. Συνήθως, εκείνοι που ανησυχούν για τα deepfakes αναφέρουν την πιθανή επίδρασή τους στην πολιτική και την κοινωνική εμπιστοσύνη. Αυτές οι πιθανές συνέπειες είναι εξαιρετικά σημαντικές και δεν πρέπει να αγνοηθούν σε καμία συζήτηση για τα deepfakes. Αλλά όπως συμβαίνει, η άνοδος αυτής της τεχνολογίας έχει πιθανές καταστροφικές επιπτώσεις σε πολλαπλά τμήματα της αμερικανικής οικονομίας.

Πάρτε, για παράδειγμα, τις ασφάλειες. Τώρα, η ετήσια ασφαλιστική απάτη στις Ηνωμένες Πολιτείες ανέρχεται σε 308,6 δισεκατομμύρια δολάρια – ένα ποσό που είναι περίπου ένα τέταρτο τόσο μεγάλο όσο ολόκληρη η βιομηχανία. Ταυτόχρονα, οι πίσω επιχειρήσεις των περισσότερων ασφαλιστικών εταιρειών αυτοματοποιούνται ολοένα και περισσότερο, με 70% των τυπικών αιτημάτων να προβλέπεται ότι θα είναι άπαχα μέχρι το 2025. Αυτό σημαίνει ότι οι αποφάσεις λαμβάνονται ολοένα και περισσότερο με ελάχιστη ανθρώπινη παρέμβαση: self-service στην εμπρόσθια πλευρά και αυτοματοποίηση με τη βοήθεια του AI στην οπίσθια πλευρά.

Παραδόξως, η ίδια τεχνολογία που επέτρεψε αυτή την αύξηση της αυτοματοποίησης – δηλαδή, η μηχανική μάθηση και το τεχνητό νοήμον – έχει εγγυημένα την εκμετάλλευσή της από κακόβουλους ηθοποιούς. Τώρα είναι πιο εύκολο από ποτέ για τον μέσο άνθρωπο να χειραγωγήσει αιτήματα – για παράδειγμα, χρησιμοποιώντας προγράμματα γεννητικού AI όπως το Dall-E, το Midjourney ή το Stable Diffusion για να κάνουν ένα αυτοκίνητο να φαίνεται πιο ζημιωμένο από ότι είναι στην πραγματικότητα. Ήδη, υπάρχουν εφαρμογές που exist ειδικά για αυτόν τον σκοπό, όπως το Dude Your Car!, το οποίο επιτρέπει στους χρήστες να δημιουργούν τεχνητά δέντρα σε φωτογραφίες των οχημάτων τους.

Το ίδιο ισχύει και για τους επίσημους εγγράφους, οι οποίοι μπορούν τώρα να χειραγωγηθούν εύκολα – με τιμολόγια, αξιολογήσεις και ακόμη και υπογραφές να điều chỉnhονται ή να εφευρίσκονται ολόκληρες. Αυτή η ικανότητα είναι ένα πρόβλημα όχι μόνο για τις ασφαλιστικές εταιρείες, αλλά και σε ολόκληρη την οικονομία. Είναι ένα πρόβλημα για τις финάνσεις, οι οποίες πρέπει να επιβεβαιώσουν την αυθεντικότητα ενός ευρέος φάσματος εγγράφων. Είναι ένα πρόβλημα για τους λιανοπωλητές, οι οποίοι μπορεί να λάβουν μια καταγγελία ότι ένα προϊόν έφτασε ελαττωματικό, συνοδευόμενο από μια ψευδεπίγραφη εικόνα.

Οι επιχειρήσεις απλά δεν μπορούν να λειτουργήσουν με αυτό το βαθμό αβεβαιότητας. Κάποιο βαθμό απάτης είναι πιθανό να είναι πάντα αναπόφευκτος, αλλά με τα deepfakes, δεν μιλάμε για απάτη στα περιθώρια – μιλάμε για μια πιθανή επιγνώμων καταστροφή, στην οποία οι επιχειρήσεις δεν έχουν κανένα σαφές μέσο για να καθορίσουν την αλήθεια από τη μυθοποίηση και να χάσουν δισεκατομμύρια δολάρια σε αυτή τη σύγχυση.

Πόλεμος με το ίδιο όπλο: πώς το AI μπορεί να βοηθήσει

Τι μπορεί να γίνει για να καταπολεμηθεί αυτό; Ίσως δεν είναι έκπληξη, η απάντηση βρίσκεται στη ίδια τεχνολογία που διευκολύνει τα deepfakes. Αν θέλουμε να σταματήσουμε αυτή την πληγή πριν συσσωρευτεί περισσότερη ορμή, πρέπει να πολεμήσουμε το πυρ με πυρ. Το AI μπορεί να βοηθήσει στη δημιουργία deepfakes – αλλά μπορεί επίσης, ευτυχώς, να βοηθήσει στην αναγνώριση τους αυτόματα και σε κλίμακα.

Χρησιμοποιώντας τα σωστά εργαλεία AI, οι επιχειρήσεις μπορούν να καθορίσουν αυτόματα εάν μια δεδομένη φωτογραφία, βίντεο ή έγγραφο έχει τροποποιηθεί. Φέρνοντας δεκάδες διαφορετικά μοντέλα στην εργασία της αναγνώρισης ψευδών, το AI μπορεί να informσει τις επιχειρήσεις ακριβώς εάν μια δεδομένη φωτογραφία ή βίντεο είναι ύποπτο. Όπως τα εργαλεία που οι επιχειρήσεις έχουν ήδη αναπτύξει για να αυτοματοποιήσουν τις καθημερινές τους επιχειρήσεις, αυτά τα εργαλεία μπορούν να τρέχουν στο παρασκήνιο χωρίς να επιβαρύνουν τους υπερφορτισμένους υπαλλήλους ή να πάρουν χρόνο από σημαντικά προγράμματα.

Εάν και όταν μια φωτογραφία αναγνωριστεί ως πιθανώς τροποποιημένη, ο ανθρώπινος προσωπικός μπορεί να ειδοποιηθεί και να αξιολογήσει το πρόβλημα trực tiếp, με τη βοήθεια των πληροφοριών που παρέχονται από το AI. Χρησιμοποιώντας αναλυτική ανάλυση, μπορεί να informσει τις επιχειρήσεις γιατί πιστεύει ότι μια φωτογραφία έχει πιθανότατα τροποποιηθεί – δείχνοντας, για παράδειγμα, σε χειροποίητα τροποποιημένα metadata, την ύπαρξη идентичних εικόνων σε όλο το web, διάφορες φωτογραφικές ανωμαλίες, κ.λπ.

Καμία από αυτές δεν είναι για να υποβαθμίσει τις απίστευτες προόδους που έχουμε δει στη τεχνολογία του γεννητικού AI τα τελευταία χρόνια, οι οποίες έχουν χρήσιμες και παραγωγικές εφαρμογές σε διάφορους τομείς. Αλλά η ίδια η δύναμη – όχι μόνο η απλότητα – αυτής της αναδυόμενης τεχνολογίας几乎 гарантиζει την κακοποίηση της από εκείνους που προσπαθούν να χειραγωγήσουν τις οργανώσεις, είτε για προσωπικό κέρδος είτε για να σπείρουν κοινωνική混亂.

Οι οργανισμοί μπορούν να έχουν τα καλύτερα από τα δύο κόσμους: τα οφέλη της παραγωγικότητας του AI χωρίς τις負τικές πτυχές των πανταχού παρούντων deepfakes. Αλλά αυτό απαιτεί μια νέα βαθμίδα προσοχής, ιδιαίτερα δεδομένου ότι τα αποτελέσματα του γεννητικού AI γίνονται όλο και πιο πειστικά, λεπτομερή και ζωής-παρόμοια με την ημέρα. Όσο γρηγορότερα οι οργανισμοί στρέψουν την προσοχή τους σε αυτό το πρόβλημα, τόσο γρηγορότερα θα μπορέσουν να απολαύσουν τα πλήρη οφέλη ενός αυτοματοποιημένου κόσμου.