Εργαλεία Πλοηγητή AI Σκοπός Αναγνώρισης Deepfakes και Άλλων Ψευδών Μέσων

Οι προσπάθειες των εταιρειών τεχνολογίας για την αντιμετώπιση των ψευδών πληροφοριών και του ψευδούς περιεχομένου έχουν ενταθεί τα τελευταία χρόνια, καθώς οι τεχνολογίες δημιουργίας ψευδούς περιεχομένου, όπως τα DeepFakes, γίνονται πιο εύκολες στη χρήση και πιο εξευγενισμένες. Μια από τις επικείμενες προσπάθειες για την βοήθεια των ανθρώπων να αναγνωρίσουν και να καταπολεμήσουν τα deepfakes είναι το RealityDefender, που παράγεται από το Ίδρυμα AI, το οποίο έχει δεσμευτεί να αναπτύσσει ηθικούς παράγοντες AI και βοηθούς που οι χρήστες μπορούν να εκπαιδεύσουν για την εκτέλεση διαφόρων εργασιών.

Το πιο αξιοσημείωτο έργο του Ιδρύματος AI είναι μια πλατφόρμα που επιτρέπει στους ανθρώπους να δημιουργήσουν τους δικούς τους ψηφιακούς εαυτούς που μοιάζουν με αυτούς και τους αντιπροσωπεύουν σε εικονικές χώρες συναναστροφής. Το Ίδρυμα AI εποπτεύεται από το Παγκόσμιο Συμβούλιο AI και作为 μέρος του εντολής τους πρέπει να προβλέψουν τις πιθανές αρνητικές επιπτώσεις των πλατφορμών AI, και στη συνέχεια να προσπαθήσουν να προηγηθούν των προβλημάτων. Όπως αναφέρθηκε από το VentureBeat, Ένα από τα εργαλεία που έχει δημιουργήσει το Ίδρυμα AI για την βοήθεια στην ανίχνευση των deepfakes είναι το Reality Defender. Το Reality Defender είναι ένα εργαλείο που一个人 μπορεί να χρησιμοποιήσει στο πρόγραμμα περιήγησης του, το οποίο θα αναλύσει βίντεο, εικόνες και άλλα είδη μέσων για την ανίχνευση σημάτων που το μέσο έχει ψευδευθεί ή τροποποιηθεί με κάποιον τρόπο. Ελπίζεται ότι το εργαλείο θα βοηθήσει στην αντιμετώπιση της αυξανόμενης ροής των deepfakes στο διαδίκτυο, τα οποία σύμφωνα με κάποιες εκτιμήσεις έχουν लगभग διπλασιαστεί κατά τη διάρκεια των τελευταίων έξι μηνών.

Το Reality Defender λειτουργεί χρησιμοποιώντας eine ποικιλία αλγορίθμων AI που μπορούν να ανιχνεύσουν ενδείξεις που μια εικόνα ή βίντεο μπορεί να έχει ψευδευθεί. Τα μοντέλα AI ανιχνεύουν λεπτές σημάδια απάτης και χειρισμού, και τα ψευδείς θετικά που ανιχνεύει το μοντέλο σημειώνονται ως λανθασμένα από τους χρήστες του εργαλείου. Τα δεδομένα χρησιμοποιούνται στη συνέχεια για την επανεκπαίδευση του μοντέλου. Οι εταιρείες AI που δημιουργούν μη-απατηλά deepfakes έχουν το περιεχόμενό τους σημειωμένο με ένα “αληθινό AI” σημάδι ή νερόσημο που επιτρέπει στους ανθρώπους να αναγνωρίσουν εύκολα τα ψευδέα AI-γεννημένα.

Το Reality Defender είναι μόνο ένα από μια σειρά εργαλείων και μια ολόκληρη πλατφόρμα ευθύνης AI που το Ίδρυμα AI προσπαθεί να δημιουργήσει. Το Ίδρυμα AI προσπαθεί να δημιουργήσει το Guardian AI, μια πλατφόρμα ευθύνης που βασίζεται στην αρχή ότι οι άνθρωποι πρέπει να έχουν πρόσβαση σε προσωπικούς παράγοντες AI που δουλεύουν για αυτούς και που μπορούν να βοηθήσουν στην προστασία τους από την εκμετάλλευση από κακόβουλους παράγοντες. Ουσιαστικά, το Ίδρυμα AI στοχεύει να επεκτείνει την εμβέλεια της AI στην κοινωνία, φέρνοντάς την σε περισσότερους ανθρώπους, ενώ παράλληλα προστατεύει από τους κινδύνους της AI.

Το Reality Defender δεν είναι το μόνο νέο προϊόν AI που στοχεύει στην μείωση των ψευδών πληροφοριών στις Ηνωμένες Πολιτείες. Ένα παρόμοιο προϊόν είναι το SurfSafe, το οποίο δημιουργήθηκε από δύο φοιτητές του UC Berkeley, Rohan Phadte και Ash Bhat. Σύμφωνα με το The Verge, το SurfSafe λειτουργεί επιτρέποντας στους χρήστες να κάνουν κλικ σε ένα κομμάτι μέσων που είναι περίεργοι και το πρόγραμμα θα εκτελέσει μια αντίστροφη αναζήτηση εικόνας και θα προσπαθήσει να βρει παρόμοιο περιεχόμενο από διάφορες αξιόπιστες πηγές στο διαδίκτυο, σημειώνοντας εικόνες που είναι γνωστές ως ψευδείς.

Δεν είναι σαφές πόσο αποτελεσματικές θα είναι αυτές οι λύσεις στο μακρότερο χρονικό διάστημα. Ο καθηγητής του Dartmouth College και εμπειρογνώμων forensics Hany Farid ανέφερε στο The Verge ότι είναι “ακραία σκεπτικός” ότι σχέδια συστήματα όπως το Reality Defender θα λειτουργήσουν με σημαντικό τρόπο. Ο Farid εξήγησε ότι ένα από τα κύρια προβλήματα με την ανίχνευση ψευδούς περιεχομένου είναι ότι τα μέσα δεν είναι καθαρώς ψευδέα ή αληθινά. Ο Farid εξήγησε:

«Υπάρχει ένα συνεχές φάσμα· ένα εξαιρετικά σύνθετο εύρος ζητημάτων που πρέπει να αντιμετωπιστούν. Κάποιες αλλαγές είναι άσχετες, και κάποιες αλλάζουν ουσιαστικά τη φύση μιας εικόνας. Να υποδείξουμε ότι μπορούμε να εκπαιδεύσουμε ένα AI να αναγνωρίσει τη διαφορά είναι απίστευτα αφελές. Και να υποδείξουμε ότι μπορούμε να αναθέσουμε την εργασία στους ανθρώπους είναι ακόμη πιο αφελές».

Επιπλέον, είναι δύσκολο να συμπεριληφθούν στοιχεία crowdsourcing, όπως η σημείωση ψευδών θετικών, επειδή οι άνθρωποι είναι συνήθως πολύ κακοί στην αναγνώριση ψευδών εικόνων. Οι άνθρωποι συχνά κάνουν λάθη και παραλείπουν λεπτές λεπτομέρειες που σημειώνουν μια εικόνα ως ψευδή. Δεν είναι σαφές πώς να αντιμετωπιστούν οι κακόβουλοι παράγοντες που τρελαίνουν όταν σημειώνουν περιεχόμενο.

Φαίνεται πιθανό ότι, για να είναι απολύτως αποτελεσματικά, τα εργαλεία ανίχνευσης ψευδών θα πρέπει να συνδυαστούν με προσπάθειες ψηφιακής παιδείας που διδάσκουν τους ανθρώπους πώς να σκέφτονται για το περιεχόμενο που αλληλεπιδρούν με αυτό στο διαδίκτυο.