Алекс Φινκ, Εκτελεστικός Διευθυντής, Ιδρυτής & Διευθύνων Σύμβουλος του Otherweb – Σειρά Συνεντεύξεων

Αλέξ Φινκ είναι Εκτελεστικός Διευθυντής και Ιδρυτής & Διευθύνων Σύμβουλος του Otherweb, μια εταιρεία που χρησιμοποιεί την τεχνητή νοημοσύνη για να βοηθήσει τους ανθρώπους να διαβάζουν ειδήσεις και σχόλια, να ακούν podcasts και να αναζητούν στο διαδίκτυο χωρίς πληρωμές, clickbait, διαφημίσεις, αυτόματα βίντεο, συνδέσμους εταιρειών ή οποιοδήποτε άλλο “σκουπίδι” περιεχόμενο. Το Otherweb είναι διαθέσιμο ως εφαρμογή (iOS και Android), ιστοσελίδα, ενημερωτικό δελτίο ή αυτόνομη επέκταση του προγράμματος περιήγησης. Πριν από το Otherweb, ο Αλέξ ήταν Ιδρυτής και Διευθύνων Σύμβουλος της Panopteo και Συνιδρυτής και Πρόεδρος της Swarmer.

Μπορείτε να μας δώσετε μια επισκόπηση του Otherweb και της αποστολής του να δημιουργήσει ένα χώρο ενημέρωσης χωρίς “σκουπίδια”;

Το Otherweb είναι μια εταιρεία που δημιουργήθηκε για να βοηθήσει στη βελτίωση της ποιότητας των πληροφοριών που καταναλώνουν οι άνθρωποι.

Το κύριο προϊόν μας είναι μια εφαρμογή ειδήσεων που χρησιμοποιεί την τεχνητή νοημοσύνη για να φιλτράρει τα “σκουπίδια” και να επιτρέπει στους χρήστες να κάνουν απεριόριστες προσαρμογές – ελέγχοντας κάθε κατώτατο όριο ποιότητας και κάθε μηχανισμό ταξινόμησης που χρησιμοποιεί η εφαρμογή.

Με άλλα λόγια, ενώ ο υπόλοιπος κόσμος δημιουργεί αλγόριθμους “μαύρης θήκης” για να μεγιστοποιήσει την εμπλοκή των χρηστών, θέλουμε να δώσουμε στους χρήστες όσο το δυνατόν περισσότερη αξία σε όσο το δυνατόν λιγότερο χρόνο, και κάνουμε όλα τα πράγματα προσαρμόσιμα. Έχουμε ακόμη και κάνει τα μοντέλα και τα δεδομένα της τεχνητής νοημοσύνης μας διαθέσιμα για να δουν οι άνθρωποι ακριβώς τι κάνουμε και πώς αξιολογούμε το περιεχόμενο.

Τι σας ενέπνευσε να επικεντρωθείτε στην καταπολέμηση της ψευδούς ενημέρωσης και των ψευδών ειδήσεων χρησιμοποιώντας την τεχνητή νοημοσύνη;

Γεννήθηκα στη Σοβιετική Ένωση και είδα τι συμβαίνει σε μια κοινωνία όταν όλοι καταναλώνουν προπαγάνδα και κανείς δεν έχει ιδέα τι συμβαίνει στον κόσμο. Έχω ζωηρές αναμνήσεις από τους γονείς μου που ξυπνούσαν στις 4 το πρωί, κλεινόταν στο ντουλάπι και άνοιγαν το ραδιόφωνο για να ακούσουν τη Φωνή της Αμερικής. Ήταν παράνομο, φυσικά, γι’ αυτό το έκαναν τη νύχτα και έβαλαν προσοχή οι γείτονες να μην τους ακούσουν – αλλά μας έδωσε πρόσβαση σε πραγματικές πληροφορίες. Ως αποτέλεσμα, φύγαμε 3 μήνες πριν από το ότι όλα κατέρρευσαν και ξέσπασε πόλεμος στην πόλη μου.

Θέλω περισσότεροι άνθρωποι να έχουν πρόσβαση σε πραγματικές, υψηλής ποιότητας πληροφορίες.

Πόσο σημαντική είναι η απειλή των deepfakes, ιδιαίτερα στο контέκστ της επιρροής των εκλογών; Μπορείτε να μοιραστείτε συγκεκριμένα παραδείγματα για το πώς οι deepfakes έχουν χρησιμοποιηθεί για τη διάδοση της ψευδούς ενημέρωσης και την επίδραση που είχαν;

Στο βραχύ χρονικό διάστημα, είναι μια πολύ σοβαρή απειλή.

Οι ψηφοφόροι δεν συνειδητοποιούν ότι οι ηχογραφήσεις βίντεο και ήχου δεν μπορούν πλέον να θεωρηθούν αξιόπιστες. Νομίζουν ότι το βίντεο είναι απόδειξη ότι κάτι συνέβη, και πριν από 2 χρόνια αυτό ήταν ακόμη αλήθεια, αλλά τώρα είναι προφανώς δεν είναι πλέον η περίπτωση.

Φέτος, στο Πακιστάν, οι ψηφοφόροι του Imran Khan έλαβαν κλήσεις από τον Imran Khan τον ίδιο, προσωπικά, ζητώντας τους να μποϋκοτάρουν τις εκλογές. Ήταν ψεύτικο, φυσικά, αλλά πολλοί άνθρωποι το πίστεψαν.

Οι ψηφοφόροι στην Ιταλία είδαν μια από τις γυναικείες πολιτικούς να εμφανίζεται σε ένα πορνογραφικό βίντεο. Ήταν ψεύτικο, φυσικά, αλλά μέχρι που η ψευδαισθησία αποκαλύφθηκε – η ζημιά είχε ήδη γίνει.

Ακόμη και εδώ στην Αριζόνα, είδαμε ένα ενημερωτικό δελτίο να διαφημίζει τον εαυτό του δείχνοντας ένα βίντεο με την Kari Lake. Δεν είχε ποτέ ενδορεύσει, φυσικά, αλλά το ενημερωτικό δελτίο ακόμη έλαβε χιλιάδες συνδρομητές.

Έτσι, τον Νοέμβριο, νομίζω ότι είναι σχεδόν αναπόφευκτο ότι θα δούμε τουλάχιστον ένα ψεύτικο σκανδάλo. Και είναι πολύ πιθανό να πέσει ακριβώς πριν από τις εκλογές και να αποκαλυφθεί ως ψεύτικο αμέσως μετά τις εκλογές – όταν η ζημιά έχει ήδη γίνει.

Πόσο αποτελεσματικά είναι τα τρέχοντα εργαλεία της τεχνητής νοημοσύνης στην αναγνώριση των deepfakes, και ποιες βελτιώσεις προβλέπετε στο μέλλον;

Στον παρελθόν, ο καλύτερος τρόπος για να αναγνωρίσετε ψεύτικα εικόνες ήταν να μεγενθύνετε και να ψάξετε για τα χαρακτηριστικά λάθη (aka “αρτεφάκτα”) που οι δημιουργοί εικόνων είχαν την τάση να κάνουν. Λάθος φωτισμός, λείπουν σκιές, άνισες άκρες σε ορισμένα αντικείμενα, υπερ-συμπίεση γύρω από τα αντικείμενα, κ.λπ.

Το πρόβλημα με την επεξεργασία GAN (aka “deepfake”) είναι ότι κανένα από αυτά τα συνήθη αρτεφάκτα δεν είναι παρόντα. Ο τρόπος με τον οποίο λειτουργεί η διαδικασία είναι ότι ένα μοντέλο της τεχνητής νοημοσύνης επεξεργάζεται την εικόνα, και ένα άλλο μοντέλο της τεχνητής νοημοσύνης ψάχνει για αρτεφάκτα και τα δείχνει – και ο κύκλος επαναλαμβάνεται πολλές φορές μέχρι να μην υπάρχουν αρτεφάκτα.

Ως αποτέλεσμα, δεν υπάρχει γενικά τρόπος να αναγνωρίσετε ένα καλά κατασκευασμένο deepfake βίντεο με το να κοιτάξετε το περιεχόμενο του.

Πρέπει να αλλάξουμε το μυαλό μας και να αρχίσουμε να υποθέτουμε ότι το περιεχόμενο είναι πραγματικό μόνο αν μπορούμε να ανατρέξουμε την αλυσίδα της κυριαρχίας πίσω στην πηγή. Σκεφτείτε το σαν δακτυλικά αποτυπώματα. Το να βλέπετε δακτυλικά αποτυπώματα στο όπλο του εγκλήματος δεν είναι αρκετό. Πρέπει να ξέρετε ποιος βρήκε το όπλο, ποιος το έφερε πίσω στο δωμάτιο αποθήκευσης, κ.λπ – πρέπει να μπορείτε να ανατρέξετε κάθε φορά που άλλαξε χέρια και να βεβαιωθείτε ότι δεν είχε τροποποιηθεί.

Ποια μέτρα μπορούν να ληφθούν από τις κυβερνήσεις και τις εταιρείες τεχνολογίας για να προληφθεί η διάδοση της ψευδούς ενημέρωσης κατά τις κρίσιμες στιγμές όπως οι εκλογές;

Το καλύτερο αντίδοτο στην ψευδή ενημέρωση είναι ο χρόνος. Αν δείτε κάτι που αλλάζει τα πάντα, μην βγάζετε να δημοσιεύσετε – περιμένετε μια ή δύο μέρες για να επιβεβαιώσετε ότι είναι πραγματικά αλήθεια.

Δυστυχώς, αυτή η προσέγγιση συγκρούεται με το επιχειρηματικό μοντέλο των μέσων ενημέρωσης, το οποίο ανταμείβει τα κλικ ακόμη και αν το υλικό αποδεικνύεται ότι είναι ψεύτικο.

Πώς το Otherweb χρησιμοποιεί την τεχνητή νοημοσύνη για να διασφαλίσει την αυθεντικότητα και την ακρίβεια των ειδήσεων που συγκεντρώνει;

Έχουμε βρει ότι υπάρχει μια ισχυρή συσχέτιση μεταξύ της ορθότητας και της μορφής. Οι άνθρωποι που θέλουν να πουν την αλήθεια έχουν την τάση να χρησιμοποιούν某ια γλώσσα που τονίζει την αυτοσυγκράτηση και την ταπείνωση, ενώ οι άνθρωποι που αγνοούν την αλήθεια προσπαθούν να πάρουν όσο το δυνατόν περισσότερη προσοχή.

Το Otherweb εστιάζει κυρίως στην επαλήθευση της μορφής. Επιλέγουμε άρθρα που αποφεύγουν τη γλώσσα που προσελκύει την προσοχή, παρέχουν εξωτερικές αναφορές για κάθε αξίωση, λένε τα πράγματα όπως είναι, και δεν χρησιμοποιούν τεχνικές πεισμού.

Αυτή η μέθοδος δεν είναι τέλεια, φυσικά, και σε θεωρία ένας κακός ηθοποιός θα μπορούσε να γράψει μια ψευδή ιστορία στο ακριβώς το στυλ που τα μοντέλα μας ανταμείβουν. Αλλά στην πράξη, απλά δεν συμβαίνει. Οι άνθρωποι που θέλουν να πουν ψέματα θέλουν επίσης να πάρουν πολλή προσοχή – αυτό είναι το πράγμα που έχουμε διδάξει τα μοντέλα μας να ανιχνεύουν και να φιλτράρουν.

Με την αυξανόμενη δυσκολία να διακρίνουμε το πραγματικό από το ψεύτικο, πώς μπορούν πλατφόρμες όπως το Otherweb να βοηθήσουν στην αποκατάσταση της εμπιστοσύνης των χρηστών στο ψηφιακό περιεχόμενο;

Ο καλύτερος τρόπος για να βοηθήσετε τους ανθρώπους να καταναλώσουν καλύτερο περιεχόμενο είναι να δειγματοληψούν από όλες τις πλευρές, να επιλέξουν το καλύτερο από κάθε μια, και να ασκήσουν πολλή αυτοσυγκράτηση. Τα περισσότερα μέσα ενημέρωσης βιάζονται να δημοσιεύσουν ανεπιβεβαίωτες πληροφορίες αυτές τις μέρες. Η ικανότητά μας να ανατρέξουμε πληροφορίες από εκατοντάδες πηγές και να εστιάσουμε στα καλύτερα στοιχεία μας επιτρέπει να προστατεύουμε τους χρήστες μας από τις περισσότερες μορφές της ψευδούς ενημέρωσης.

Τι ρόλο παίζει τα μεταδεδομένα, όπως τα πρότυπα C2PA, στην επαλήθευση της αυθεντικότητας των εικόνων και των βίντεο;

Είναι η μόνη βιώσιμη λύση. Το C2PA μπορεί να είναι ή όχι το σωστό πρότυπο, αλλά είναι σαφές ότι ο μόνος τρόπος να επικυρώσετε αν το βίντεο που βλέπετε αντανακλά κάτι που πραγματικά συνέβη στη πραγματικότητα, είναι να α) διασφαλίσετε ότι η κάμερα που χρησιμοποιήθηκε για να καταγράψει το βίντεο ήταν μόνο καταγράφοντας, και όχι επεξεργαζόμενη, και β) διασφαλίσετε ότι κανείς δεν επεξεργάστηκε το βίντεο μετά την αποχώρησή του από την κάμερα. Ο καλύτερος τρόπος για να το κάνετε αυτό είναι να εστιάσετε στα μεταδεδομένα.

Τι μελλοντικές εξελίξεις προβλέπετε στον αγώνα κατά της ψευδούς ενημέρωσης και των deepfakes;

Νομίζω ότι, εντός 2-3 ετών, οι άνθρωποι θα προσαρμοστούν στην νέα πραγματικότητα και θα αλλάξουν το μυαλό τους. Πριν από τον 19ο αιώνα, η καλύτερη μορφή απόδειξης ήταν η μαρτυρία των μαρτύρων. Τα deepfakes είναι πιθανό να μας οδηγήσουν πίσω σε αυτά τα δοκιμασμένα πρότυπα.

Με την ψευδή ενημέρωση, πιστεύω ότι είναι απαραίτητο να λάβουμε μια πιο νюανσική άποψη και να διαχωρίσουμε την ψευδή ενημέρωση (δηλ. ψευδείς πληροφορίες που δημιουργούνται σκόπιμα για να εξαπατήσουν) από το “σκουπίδι” (δηλ. πληροφορίες που δημιουργούνται για να монετιζούν, ανεξάρτητα από την αλήθεια τους).

Το αντίδοτο στο “σκουπίδι” είναι ένα φίλτρο που κάνει το “σκουπίδι” moins πιθανό να εξαπλωθεί. Θα άλλαζε την δομή κινήτρων που κάνει το “σκουπίδι” να εξαπλωθεί σαν πυρκαγιά. Η ψευδή ενημέρωση θα συνεχίσει να υπάρχει, όπως έχει πάντα υπάρξει. Έχουμε μπορέσει να αντιμετωπίσουμε αυτό κατά τη διάρκεια του 20ου αιώνα, και θα μπορέσουμε να το αντιμετωπίσουμε στον 21ο.

Είναι η πλημμύρα του “σκουπίδι” που πρέπει να ανησυχούμε, επειδή αυτό είναι το μέρος που δεν είμαστε εξοπλισμένοι να αντιμετωπίσουμε τώρα. Αυτό είναι το κύριο πρόβλημα που πρέπει να αντιμετωπίσουμε.

Μόλις αλλάξουμε τα κίνητρα, το λόγο σήματος προς θόρυβο του διαδικτύου θα βελτιωθεί για όλους.

Ευχαριστώ για τη μεγάλη συνέντευξη, οι αναγνώστες που θέλουν να μάθουν περισσότερα μπορούν να επισκεφθούν την ιστοσελίδα του Otherweb, ή να ακολουθήσουν τους στο X ή LinkedIn.