Βαϊσνάβ Ανάντ, Συγγραφέας του Tech Demystified: Κυβερνοασφάλεια – Σειρά Συνεντεύξεων

Ο δεκαεπτάχρονος, μαθητής του σχολείου Αθηνών, Βαϊσνάβ Ανάντ, έχει αναπτύξει το πρώτο σύστημα AI που μπορεί να ανιχνεύσει “γεωχωρικές deepfakes” – εικόνες δορυφορικής εικόνας που έχουν τροποποιηθεί από το AI και μπορούν να κρύψουν στρατιωτικές εγκαταστάσεις, να fabriquéσουν αποθέματα πόρων ή να παραμορφώσουν δεδομένα καταστροφών, θέτοντας σε κίνδυνο την εθνική ασφάλεια και τη σταθερότητα του κόσμου. Χωρίς δημόσιες βάσεις δεδομένων για αυτόν τον τύπο ανίχνευσης, ο Ανάντ δημιούργησε τις δικές του συνθετικές εικόνες χρησιμοποιώντας Δικτυακά Ανταγωνιστικά Генеративные (GANs), εκπαίδευσε μοντέλα από το μηδέν και τώρα εφαρμόζει μεθόδους διάχυσης για να βελτιώσει την ακρίβεια. Η έρευνά του έχει ήδη παρουσιαστεί στη διεθνή συνδιάσκεψη χρήστη Esri και στο Πανεπιστήμιο του Κέιμπριτζ, κερδίζοντας αναγνώριση από τον πρόεδρο της Esri, Τζακ Ντάνγκερμοντ.

Παράλληλα με την εργασία του στην ασφάλεια του AI, ο Ανάντ έχει συγγράψει δύο βιβλία για την κυβερνοασφάλεια που έχουν υιοθετηθεί από ιδιωτικά σχολεία, με το τελευταίο του βιβλίο, Tech Demystified: Κυβερνοασφάλεια: Κεντρικές Αρχές της Μοντέρνας Κυβερνοάμυνας, να λαμβάνει βαθμολογία 5,0 αστέρων. Το βιβλίο αναλύει σύνθετα θέματα όπως η φішινγκ, το malware, τα τείχη προστασίας και η κρυπτογράφηση σε σαφείς, πρακτικές μαθήματα για μαθητές, εκπαιδευτικούς και οποιονδήποτε ενδιαφέρεται για την ψηφιακή ασφάλεια. Κάνοντας την κυβερνοασφάλεια προσιτή και ενδιαφέρουσα, ο Ανάντ καθιστάται όχι μόνο ως καινοτόμος στο AI, αλλά και ως αναδυόμενος ήχος στην εκπαίδευση και την τεχνολογία.

Είσαι ακόμη στο λύκειο, αλλά ήδη έχεις επίδραση στο AI και την κυβερνοασφάλεια. Τι σε οδήγησε σε αυτόν τον τομέα και πώς ξεκίνησες να αναπτύσσεις τόσο προηγμένα projects σε τόσο νεαρή ηλικία;

Αυτό που με οδήγησε σε αυτόν τον τομέα ήταν η διπλή φύση του AI. Έχει απίστευτο δυναμικό, αλλά μπορεί επίσης να προκαλέσει ζημιά. Είχα μια άμεση εμπειρία με την τεχνολογία deepfake που άλλαξε την προοπτική μου. Βλέποντας πώς η συνθετική μέσα μπορούσε σοβαρά να βλάψει τους νέους ανθρώπους, κατάλαβα ότι αυτό ήταν κάτι περισσότερο από μια τεχνική περιέργεια, ήταν ένα κρίσιμο κοινωνικό ζήτημα που χρειαζόταν περισσότερη κατανόηση.

Η είσοδός μου στην έρευνα δεν ήρθε από ένα μεγάλο σχέδιο, αλλά από μια βαθιά περιέργεια. Κάθε ερώτηση που έψαξα οδήγησε σε μια άλλη, δημιουργώντας einen κύκλο ανακάλυψης. Βρήκα τον εαυτό μου ενδιαφερόμενο σε ολοένα και πιο σύνθετα προβλήματα. Δεν έψαχνα αναγνώριση, ήμουν πραγματικά ενδιαφερόμενος για τις ερωτήσεις.

Πέρασα από την ατομική εξερεύνηση σε σημαντική έρευνα μέσω δικτύωσης και επιμονής. Ξεκίνησα να επικοινωνώ με καθιερωμένους ερευνητές deren εργασία εκτίμησα, κυρίως μέσω πλατφορμών όπως το LinkedIn. Ενώ πολλοί δεν απάντησαν, είχα τη τύχη να συνδεθώ με δύο ερευνητές PhD που εστίαζαν στην ασφάλεια του AI και την ανίχνευση deepfake. Αυτοί με ξεκίνησαν με μικρά καθήκοντα μέσα στα μεγαλύτερα ερευνητικά projeccts τους. Όσο αποδείχθηκα αξιόπιστος και έδειξα εύστοχες ερμηνείες, αυτά τα καθήκοντα έγιναν πιο σημαντικά.

Αυτή η καθοδήγηση ήταν ζωτική. Έχοντας έμπειρους ερευνητές να καθοδηγούν την ανάπτυξή μου, με βοήθησε να μετατρέψω την περιέργειά μου σε αυστηρή εργασία. Η εσωτερική μου мотίβαση, η δομημένη καθοδήγηση τους και η συνεχής προσπάθεια μετέτρεψαν σταδιακά το άτομο μου ενδιαφέρον σε σημαντικές συνεισφορές στην έρευνα. Αυτό ενίσχυσε την πίστη μου ότι η πραγματική πρόοδος συχνά προέρχεται όχι από δραματικές ανακαλύψεις, αλλά από τη συνεχή ασχολία με σημαντικά προβλήματα.

Οι περισσότεροι άνθρωποι σκέφτονται τις deepfakes σε σχέση με πρόσωπα ή φωνές. Τι σας έκανε να ερευνήσετε τις γεωχωρικές deepfakes συγκεκριμένα και γιατί τις είδατε ως τόσο κρίσιμη τύφλωση;

Όταν οι περισσότεροι άνθρωποι ακούουν τη λέξη “deepfake”, σκέφτονται ψεύτικα βίντεο διασημοτήτων ή τροποποιημένες φωνές. Και εγώ σκέφτηκα così αρχικά. Αλλά καθώς έμαθα περισσότερα, άρχισα να σκέφτομαι που αλλού αυτή η τεχνολογία θα μπορούσε να χρησιμοποιηθεί με τρόπους που δεν θα σκεφτόμαστε. Αυτό ήταν όταν κατάλαβα ότι οι εικόνες δορυφορικής εικόνας συχνά αντιμετωπίζονται ως απολύτως αξιόπιστες. Κυβερνήσεις, επιχειρήσεις και ακόμη και ομάδες έκτακτης ανάγκης λαμβάνουν σημαντικές αποφάσεις με βάση αυτές.

Αυτό φάνηκε ως τύφλωση. Αν ένα ψεύτικο βίντεο μπορεί να προκαλέσει ζημιά στη φήμη, μια ψεύτικη χαρτογραφία ή μια τροποποιημένη εικόνα δορυφορικής εικόνας θα μπορούσε να διαταράξει τις αλυσίδες εφοδιασμού, να εξαπατήσει τις προσπάθειες διάσωσης ή ακόμη και να οδηγήσει σε λανθασμένες αποφάσεις εθνικής ασφάλειας. Όσο η άμυνα και ο πόλεμος γίνονται πιο εξαρτημένοι από συστήματα AI, drones και αυτόματη λήψη αποφάσεων, οι κίνδυνοι αυξάνονται. Μια τροποποιημένη εικόνα δορυφορικής εικόνας μπορεί να εξαπατήσει όχι μόνο τους ανθρώπους, αλλά και τις μηχανές.

Αυτό που με χτύπησε ακόμη περισσότερο ήταν ότι οι γεωχωρικές deepfakes λαμβάνουν πολύ λιγότερη προσοχή από τις deepfakes προσώπου ή φωνής. Δεν υπάρχουν δημόσιες βάσεις δεδομένων ή τυποποιημένα εργαλεία για την ανίχνευση τους. Επίσης, η ανίχνευση ψευδών εικόνων δορυφορικής εικόνας είναι πολύ πιο δύσκολη. Δεν ψάχνετε μόνο για προβλήματα όπως η ασύγχρονη κίνηση των χειλιών ή τα προβλήματα ήχου. Οι εικόνες δορυφορικής εικόνας αποτελούνται από λεπτές υφές και φασματικές μοτίβα σε τοπία, αγροτικές περιοχές, ωκεανούς και πόλεις. Αυτά τα μοτίβα είναι πιο δύσκολο να αντιληφθούν και χρειάζονται μια διαφορετική προσέγγιση.

Μπορείτε να μας οδηγήσετε στο πρόceso της ανακάλυψης σας – πώς συνειδητοποιήσατε ότι οι τροποποιημένες εικόνες δορυφορικής εικόνας θα μπορούσαν να θέσουν σε κίνδυνο την εθνική ασφάλεια, την οικονομία και την ανταπόκριση σε καταστροφές;

Η στροφή μου ήρθε μετά από μια deepfake που έσπασε την πίστη μου σε αυτό που έβλεπα. Αυτή η στιγμή της αμφιβολίας αποκάλυψε κάτι σημαντικό: οι άνθρωποι είναι φυσικά προγραμματισμένοι να εμπιστεύονται οπτικά αποδεικτικά στοιχεία, και όταν αυτή η εμπιστοσύνη σπάει, αλλάζει το πώς βλέπουμε mọi thứ. Η εμπειρία με έκανε να αντιμετωπίσω πόσο ευάλωτοι είμαστε όλοι στην έξυπνη εξαπάτηση.

Αρχικά, όπως και οι περισσότεροι άνθρωποι, εστίασα στις προφανείς χρήσεις – deepfakes βίντεο και τροποποιημένες φωνές. Τα πρώτα projeccts ανίχνευσης μου έδωσαν σημαντικές ερμηνείες για το πώς λειτουργούν αυτές οι τεχνολογίες, αλλά cũng μου έδειξαν τις ευρύτερες επιπτώσεις που δεν είχα σκεφτεί.

Η πραγματική στροφή ήρθε όταν υπηρέτησα ως Αντιπρόεδρος της Εθνικής 4-H GIS ηγετικής ομάδας. Εργαζόμενος με γεωχωρικά δεδομένα και εικόνες δορυφορικής εικόνας, είδα πώς αυτά τα φαινομενικά αντικειμενικά δεδομένα οδηγούν σημαντικές αποφάσεις. Παρακολούθησα πώς οι χάρτες καθοδηγούσαν τις προσπάθειες διάσωσης, διαμόρφωναν περιβαλλοντικές πολιτικές και επηρέαζαν projeccts σχεδιασμού κοινότητας που κόστιζαν εκατομμύρια δολάρια. Αυτό που με έκπληξε περισσότερο ήταν η τυφλή εμπιστοσύνη σε αυτά τα δεδομένα – θεωρούνταν αδιαμφισβήτητη αλήθεια.

Αυτό ήταν όταν όλα έγιναν νόημα. Αν ένα ψεύτικο βίντεο μπορεί να προκαλέσει συναισθηματική ζημιά και κοινωνική αναταραχή, μια ψεύτικη εικόνα δορυφορικής εικόνας θα μπορούσε να οδηγήσει σε καταστροφικά πραγματικά αποτελέσματα. Σκεφτείτε τις υπηρεσίες έκτακτης ανάγκης που στέλνονται σε ψεύτικες ζώνες καταστροφών, τις κυβερνήσεις που λαμβάνουν αποφάσεις με βάση λανθασμένα περιβαλλοντικά δεδομένα ή τις αγορές που επηρεάζονται από τροποποιημένες γεωργικές αναφορές. Ο πιθανός κίνδυνος ήταν εκπληκτικός.

Αυτή η σύντηξη της έρευνας μου για deepfakes και της εμπειρίας μου με το GIS αποκάλυψε ένα κενό στην коллективική μας συνείδηση. Ενώ ο κόσμος συζητά τις deepfakes προσώπου ή φωνής, η πολύ μεγαλύτερη απειλή των γεωχωρικών deepfakes παραμένει σε μεγάλο βαθμό παραμελημένη. Αυτή η συνειδητοποίηση έγινε η κινητήρια δύναμη πίσω από την έρευνά μου – αντιμετωπίζοντας một σοβαρή ευπάθεια που θα μπορούσε να αλλάξει το πώς κατανοούμε την αλήθεια στα δεδομένα μας.

Η έρευνά σας χρησιμοποιεί Δικτυακά Ανταγωνιστικά Γενετικά (GANs) για την ανίχνευση ψευδών εικόνων δορυφορικής εικόνας. Πώς λειτουργεί το σύστημά σας και τι το κάνει διαφορετικό από γενικούς ανιχνευτές deepfakes;

Οι περισσότεροι ανιχνευτές σήμερα είναι σχεδιασμένοι για την ανίχνευση προσώπων ή φωνών. Ψάχνουν για προβλήματα όπως η ασύγχρονη κίνηση των χειλιών ή τα προβλήματα ήχου. Οι εικόνες δορυφορικής εικόνας είναι πολύ διαφορετικές. Αποτελούνται από λεπτές υφές και φασματικά μοτίβα σε τοπία, αγροτικές περιοχές, ωκεανούς και πόλεις. Αυτά τα μοτίβα είναι πιο δύσκολο να αντιληφθούν και χρειάζονται μια διαφορετική προσέγγιση.

Στο αρχικό projecct μου, εκπαίδευσα ένα πλαίσιο GAN χρησιμοποιώντας τη βάση δεδομένων SpaceNet-7 πραγματικών εικόνων δορυφορικής εικόνας. Ο γεννήτωρας δημιουργεί συνθετικές εικόνες, και ο διακρίτης μαθαίνει να διακρίνει το πραγματικό από το ψεύτικο. Εστιάζοντας στον διακρίτη, εκπαίδευσα ένα μοντέλο που καταλαβαίνει το στατιστικό “σημάδι” των πραγματικών δεδομένων δορυφορικής εικόνας. Αυτό περιλαμβάνει το πώς οι υφές συμπεριφέρονται σε αστικές περιοχές σε σύγκριση με φυσικά τοπία και το πώς τα μοτίβα της πυκνότητας των pixel ρέουν σε διάφορες περιοχές.

Μέσω αυτής της διαδικασίας εκπαίδευσης, το σύστημα πέτυχε υψηλό επίπεδο ακρίβειας στην ανίχνευση ψευδών εικόνων δορυφορικής εικόνας. Η κύρια διαφορά από γενικούς ανιχνευτές είναι ότι αυτό το σύστημα είναι σχεδιασμένο ειδικά για γεωχωρικά δεδομένα. Αντί να ψάχνει για προφανή οπτικά λάθη, μαθαίνει τις λεπτές φασματικές και υφικές ασυνέπειες που αποκαλύπτουν συνθετικές εικόνες δορυφορικής εικόνας.

Η τρέχουσα έρευνά μου έχει μετατοπιστεί στην εξερεύνηση μοντέλων διάχυσης ως γεννητόρων. Αυτά αντιπροσωπεύουν μια σημαντική βελτίωση σε σχέση με τα GANs στην ποιότητα της εικόνας. Τα μοντέλα διάχυσης όπως το DDPM και το DDIM δημιουργούν πολύ πραγματικές εικόνες δορυφορικής εικόνας μαθαίνοντας να αντιστρέφουν μια διαδικασία προσθήκης θορύβου. Οι συνθετικές εικόνες που παράγουν είναι συχνά πιο καθαρές και λεπτομερείς από αυτές που παράγονται από τα GANs. Αυτό παρουσιάζει και μια ευκαιρία και μια πρόκληση. Ενώ αυτά τα μοντέλα μπορούν να παρέχουν καλύτερα δεδομένα εκπαίδευσης για συστήματα ανίχνευσης, παράγουν επίσης πιο προηγμένα ψεύτικα που είναι πιο δύσκολο να ανιχνευθούν.

Τώρα συγκρίνω διάφορες μεθόδους ανίχνευσης για να βρω ποίες είναι οι πιο αποτελεσματικές ενάντια σε διάφορες τεχνικές γεννήτωρα. Αυτό περιλαμβάνει παραδοσιακούς ταξινομητές με βάση το CNN, αρχιτεκτονικές μετασχηματιστών που μπορούν να καταγράψουν μακροπρόθεσμες χωρικές σχέσεις σε εικόνες δορυφορικής εικόνας, και υβριδικές μεθόδους που συνδυάζουν φασματική ανάλυση με βαθύ μάθηση. Κάθε μέθοδος έχει τις δικές της ισχύες: τα CNN είναι καλά στην ανίχνευση τοπικών προβλημάτων υφής, οι μετασχηματιστές μπορούν να ανιχνεύσουν μεγαλύτερα δομικά προβλήματα σε περιοχές εικόνας, και η φασματική ανάλυση μπορεί να αναγνωρίσει λεπτές συχνότητες που τα νευρωνικά δίκτυα μπορεί να παραβλέψουν.

Ένα ενδιαφέρον σημείο είναι ότι διαφορετικοί γεννήτορες αφήνουν μοναδικά δακτυλικά αποτυπώματα. Οι εικόνες που παράγονται από GANs έχουν συχνά συγκεκριμένα артеφάκτα σε λεπτομερείς υφές και άκρες, ενώ οι εικόνες που παράγονται από μοντέλα διάχυσης δείχνουν πιο λεπτές ασυνέπειες στην συνολική συνάφεια και φασματικά χαρακτηριστικά. Εκπαιδεύοντας μοντέλα ανίχνευσης και σε εικόνες που παράγονται από GANs και σε εικόνες που παράγονται από μοντέλα διάχυσης, κερδίζω μια βαθύτερη κατανόηση των συνθετικών εικόνων δορυφορικής εικόνας. Αυτό με βοηθά να χτίσω συστήματα ανίχνευσης που μπορούν να προσαρμοστούν καθώς η τεχνολογία γεννήτωρα εξελίσσεται.

Αυτή η πολυ-τροπική προσέγγιση στην ανίχνευση είναι απαραίτητη. Όσο τα μοντέλα γεννήτωρα γίνονται πιο προηγμένα, χρειαζόμαστε συστήματα ανίχνευσης που δεν εξαρτώνται από λάθη από οποιαδήποτε μεθοδολογία γεννήτωρα. Ο στόχος είναι να αναγνωρίσουμε τις βασικές στατιστικές ιδιότητες που διακρίνουν τις πραγματικές εικόνες δορυφορικής εικόνας από οποιαδήποτε μορφή σύνθεσης, ανεξάρτητα από την τεχνολογία που χρησιμοποιείται για να τις δημιουργήσει.

Στην έρευνά σας στο MIT URTC, αναφέρετε ότι επιτύχατε περίπου 88% ακρίβεια στην διάκριση αυθεντικών εικόνων δορυφορικής εικόνας από ψεύτικα. Ποια ήταν τα κρίσιμα βήματα που επέτρεψαν αυτή την απόδοση;

Το κρίσιμο βήμα ήταν η συνειδητοποίηση ότι δεν υπήρχαν υπάρχουσες βάσεις δεδομένων για την εκπαίδευση μοντέλων ανίχνευσης. Αυτό με οδήγησε να εργαστώ σε μια διπλή προσέγγιση, εργαζόμενος τόσο στην γεννήτρια όσο και στην ανίχνευση ταυτόχρονα. Δημιούργησα τη δική μου συνθετική βάση δεδομένων χρησιμοποιώντας GANs και εκπαίδευσα διακρίτες με αυτά τα δεδομένα. Αυτό με επέτρεψε να χτίσω ένα σύστημα που πραγματικά καταλαβαίνει τις στατιστικές μοτίβα των πραγματικών δεδομένων δορυφορικής εικόνας.

Μια άλλη σημαντική ερμηνεία ήταν η αναγνώριση ότι οι εικόνες δορυφορικής εικόνας παρουσιάζουν πολύ διαφορετικές προκλήσεις σε σχέση με τις deepfakes προσώπου. Ενώ τα πρόσωπα έχουν γενικά συνεπείς ανατομικές δομές, οι εικόνες δορυφορικής εικόνας καλύπτουν ένα ευρύ φάσμα τύπων τοπίων – όλα, από αγροτικές περιοχές σε αστικές περιοχές σε φυσικά τοπία. Χρειαζόμουν να δημιουργήσω ένα σύστημα ανίχνευσης που θα μπορούσε να αναγνωρίσει τις αυθεντικές ιδιότητες σε όλα αυτά τα διαφορετικά περιβάλλοντα.

Αυτή η εξειδικευμένη μέθοδος, αντί να βασίζεται σε γενικούς ανιχνευτές, επέτρεψε στο μοντέλο να ανιχνεύσει τις λεπτές φασματικές και υφικές ασυνέπειες που αποκαλύπτουν τις συνθετικές εικόνες δορυφορικής εικόνας. Ωστόσο, η τρέχουσα έρευνά μου με μοντέλα διάχυσης δείχνει πολύ καλύτερα αποτελέσματα, επιτυγχάνοντας υψηλότερες ποσοστιαίες ακρίβειας και είναι πιο ανθεκτικά σε προηγμένα τεχνικές γεννήτωρα.

Πώς δημιουργήσατε τη δική σας συνθετική εικόνα για εκπαίδευση, δεδομένου ότι δεν υπάρχουν δημόσιες βάσεις δεδομένων για την ανίχνευση γεωχωρικών deepfakes;

Η δημιουργία της συνθετικής βάσης δεδομένων περιελάμβανε την κατασκευή ενός σύνθετου πλαισίου GAN εκπαιδευμένου στη βάση δεδομένων SpaceNet-7 πραγματικών εικόνων δορυφορικής εικόνας. Ο γεννήτωρας έμαθε να μετατρέπει τυχαίο θόρυβο σε πιο πραγματικές εικόνες δορυφορικής εικόνας. Καταγράφηκαν οι σύνθετες μοτίβα που βρίσκονται σε πραγματικά γεωχωρικά δεδομένα.

Η διαδικασία μοιάζει με έναν αγώνα μεταξύ ενός εξειδικευμένου ψεύτη και ενός εκπαιδευμένου ελεγκτή. Ο γεννήτωρας συνεχίζει να βελτιώνει τις συνθετικές εικόνες του, ενώ ο διακρίτης γίνεται καλύτερος στην ανίχνευση λεπτών σημάτων ψεύτικου. Αυτή η αμοιβαία εκπαίδευση δημιουργεί einen κύκλο όπου και οι δύο μέρη ωθούν το ένα το άλλο να επιτύχουν καλύτερη απόδοση.

Ελέγχοντας και την γεννήτρια και την ανίχνευση, κέρδισα σημαντικές ερμηνείες για το πώς δημιουργούνται οι συνθετικές εικόνες δορυφορικής εικόνας. Αυτή η διπλή οπτική ήταν κρίσιμη για την ανάπτυξη ισχυρών μεθόδων ανίχνευσης που αναγνωρίζουν τι μοιάζει μια πραγματική εικόνα και πώς οι συνθετικές εικόνες διαφέρουν από αυτά τα μοτίβα.

Τι είδους ανωμαλίες – φασματικές, υφικές ή άλλες – το σύστημά σας ανιχνεύει όταν διακρίνει μεταξύ πραγματικών και τροποποιημένων εικόνων;

Αντιθέτως με τις deepfakes, όπου προβλήματα όπως η ασύγχρονη κίνηση των χειλιών ή τα προβλήματα ήχου είναι συνήθως εύκολο να ανιχνευθούν, τα προβλήματα στις εικόνες δορυφορικής εικόνας είναι πολύ πιο λεπτά. Το σύστημά μου ανιχνεύει φασματικές ασυνέπειες όπου τα μοτίβα αλληλεπίδρασης μεταξύ διαφορετικών ηλεκτρομαγνητικών ζωνών δεν ταιριάζουν με πραγματικά δεδομένα δορυφορικής εικόνας. Ανιχνεύει επίσης υφικές ανωμαλίες, όπως αγροτικές περιοχές που φαίνονται πολύ ομοιόμορφες, επιφάνειες ωκεανών που λείπουν από φυσικά μοτίβα κυμάτων ή शहरτικές υφές με τεχνητή επανάληψη.

Οι αναλογικές ανωμαλίες προσθέτουν ένα επιπλέον επίπεδο ανίχνευσης. Αυτές περιλαμβάνουν δίκτυα οδών που δεν ακολουθούν φυσικά τοπία, αγροτικές διαρρυθμίσεις που αγνοούν πραγματικά όρια γεωργίας ή शहरικές αναπτύξεις που δεν ταιριάζουν με τυπική शहरική ανάπτυξη. Αυτά τα προβλήματα μπορεί να διαφύγουν από την καθημερινή ανθρώπινη ανασκόπηση, αλλά δημιουργούν σαφείς στατιστικές σημάδια που το μοντέλο μπορεί να αναγνωρίσει.

Το σύστημα έχει περιορισμούς με σύνθετες εικόνες. Πυκνοκατοικημένες αστικές περιοχές με επικαλυπτόμενες δομές ή εικόνες δορυφορικής εικόνας που επηρεάζονται από σημαντική ατμοσφαιρική παραμόρφωση μπορούν να μειώσουν την ακρίβεια ανίχνευσης. Αυτά τα περιπτωσιακά σενάρια δείχνουν περιοχές που χρειάζονται περαιτέρω έρευνα και βελτίωση του μοντέλου.

Κοιτάζοντας μπροστά, η αφίσα σας αναφέρει μελλοντική εργασία όπως επεκτάσεις προγράμματος περιήγησης για πραγματικό χρόνο γεωχωρικής αυθεντικοποίησης και πλαισιά με πολλαπλές βάσεις δεδομένων. Τι βλέπετε ως το επόμενο μεγάλο βήμα σε αυτήν την σειρά έρευνας;

Ενώ η έρευνά μου με βάση τα GANs έδειξε ότι μπορούμε να ανιχνεύσουμε με ακρίβεια τις ψεύτικες εικόνες δορυφορικής εικόνας, έμαθα ότι τα καλά αποτελέσματα του εργαστηρίου δεν εγγυώνται επιτυχία στον πραγματικό κόσμο. Οι συνθετικές εικόνες συχνά δεν ταιριάζουν με τα μοτίβα στα οποία έχουν εκπαιδευτεί τα μοντέλα ανίχνευσης, και οι τεχνολογίες γεννήτωρα αλλάζουν γρήγορα.

Η επόμενη φάση εστίασε στην κατασκευή ισχυρών, προσαρμοστικών συστημάτων που λειτουργούν καλά υπό διαφορετικές συνθήκες. Αυτό σημαίνει ότι χρειαζόμαστε να δημιουργήσουμε καλύτερες μεθόδους αξιολόγησης που μιμούνται την απρόβλεπτη φύση της χρήσης συνθετικών εικόνων στον πραγματικό κόσμο. Χρειαζόμαστε επίσης να αναπτύξουμε πρακτικά εργαλεία όπως ελαφριές επεκτάσεις προγράμματος περιήγησης, API σε πραγματικό χρόνο και πλαισιά για την ενίσχυση σημαντικών διαδικασιών λήψης αποφάσεων.

Η τρέχουσα ερευνητική μου κατεύθυνση υπογραμμίζει την προσαρμοστικότητα και την πρακτική χρήση. Δεν προσπαθώ μόνο να βελτιώσω την ακρίβεια του μοντέλου σε ελεγχόμενα περιβάλλοντα. Στόχος μου είναι να σχεδιάσω συστήματα ανίχνευσης που μπορούν να παραμείνουν αξιόπιστα καθώς οι τεχνολογίες γεννήτωρα αλλάζουν. Θέλω να παρέχω προσιτά εργαλεία για κυβερνήσεις, επιχειρήσεις και κοινότητες που βασίζονται σε αξιόπιστα γεωχωρικά δεδομένα.

Πέρα από τα γεωχωρικά δεδομένα, η ευρύτερη έρευνά σας περιλαμβάνει επίσης βίντεο deepfakes, πραγματική ώρα φωνητικής αυθεντικοποίησης και προκατάληψη AI σε δανεισμό. Πώς επιλέγετε ποια ηθικά προβλήματα να αντιμετωπίζετε επόμενη;

Η κατεύθυνση της έρευνάς μου δεν καθορίζεται από τις επικρατούσες τάσεις. Εστιάζω στο να βρω κρίσιμες ευπαθείς περιοχές σε συστήματα όπου οι άνθρωποι τοποθετούν θεμελιώδη εμπιστοσύνη. Κάθε projecct αρχίζει με την ταυτοποίηση συγκεκριμένων σημείων όπου η εμπιστοσύνη μπορεί να υπονομευθεί, οδηγώντας σε σοβαρές συνέπειες.

Η έρευνα για τις deepfakes ξεκίνησε με μια προσωπική εμπειρία που μου έδειξε πώς η συνθετική μέσα μπορεί να βλάψει την εμπιστοσύνη ενός ατόμου στην οπτική απόδειξη. Η εργασία μου με την Εθνική 4-H GIS ηγετική ομάδα με έκανε να καταλάβω πόσο πολύ οι άνθρωποι βασίζονται στις εικόνες δορυφορικής εικόνας για την ανταπόκριση σε καταστροφές και τις αποφάσεις πολιτικής. Αυτή η σύνδεση οδήγησε την έρευνά μου στις γεωχωρικές deepfakes, όπου οι κίνδυνοι είναι потенτικά πολύ υψηλοί.

Αυτό το μοτίβο ισχύει επίσης για την φωνητική αυθεντικοποίηση. Σκέφτηκα πώς οι συνθετικές κλήσεις έκτακτης ανάγκης θα μπορούσαν να υπερφορτώσουν τα συστήματα 911. Υπάρχει επίσης το ζήτημα της προκατάληψης AI σε δανεισμό, όπου η αλγοριθμική διάκριση μπορεί να αρνηθεί ευκαιρίες σε ολόκληρες κοινότητες. Κάθε một από αυτές τις περιοχές αντανακλά μια κρίσιμη σχέση εμπιστοσύνης μεταξύ ανθρώπων και τεχνολογίας που χρειάζεται προστασία.

Ερευνώ όπου η τεχνολογία συναντά την κοινωνική ευπάθεια, εστιάζοντας στην έρευνα που μπορεί να σταματήσει την κατάρρευση της εμπιστοσύνης πριν γίνει μια ευρεία κρίση.

Έχετε επίσης δημοσιεύσει Tech Demystified: Κυβερνοασφάλεια, το οποίο έχει υιοθετηθεί από σχολεία. Τι σας έκανε να γράψετε αυτό το βιβλίο και πώς κάνετε τέτοιο τεχνικό υλικό προσιτό σε μαθητές και εκπαιδευτικούς;

Το βιβλίο ήρθε trực tiếp από την εμπειρία μου με την έρευνα για τις deepfakes. Μου έδειξε πόσο σημαντική είναι η ψηφιακή γραμματισμός για τους νέους ανθρώπους καθώς αντιμετωπίζουν ένα πιο σύνθετο τεχνολογικό κόσμο. Η κυβερνοασφάλεια φάνηκε ως ο κατάλληλος σημείο εκκίνησης, επειδή επηρεάζει όλους, ανεξάρτητα από τις τεχνολογικές τους ικανότητες ή τους στόχους καριέρας.

Στόχευσα την γραφή μου σε μαθητές λίγα χρόνια νεότερους από μένα. Τι θα με είχε βοηθήσει να κατανοήσω τις κυβερνοαπειλές όταν ξεκίνησα να μαθαίνω; Οργάνωσα το περιεχόμενο χρησιμοποιώντας ιστορίες, συγκρίσεις και οπτικά, μαζί με διαδραστικές δραστηριότητες και ερωτήσεις αντανακλαστικής σκέψης. Αυτά τα εργαλεία κάνουν τις δύσκολες ιδέες πιο εύκολες να κατανοηθούν.

Ήταν ιδιαίτερα σημαντικό να δω υψηλά σχολεία, σχολικές βιβλιοθήκες και μη κερδοσκοπικούς οργανισμούς που εξυπηρετούν υποαπασχολημένους μαθητές να υιοθετήσουν το βιβλίο. Ήθελα να δημιουργήσω μια πηγή που θα ανοίξει πόρτες για μαθητές που θα μπορούσαν να αισθανθούν αποκλεισμένοι από τις συνομιλίες για την κυβερνοασφάλεια.

Η εστίαση στην κυβερνοασφάλεια έθεσε τις βάσεις για την ψηφιακή ασφάλεια πριν από το επόμενο βιβλίο μου που θα αντιμετωπίζει το AI και τις deepfakes, που είναι το κύριο ερευνητικό μου ενδιαφέρον. Οι μαθητές χρειάζεται να μάθουν τις βασικές αρχές ασφάλειας πριν να βουτήξουν στις περίπλοκες ηθικές προκλήσεις που περιβάλλουν την τεχνολογία του AI.

Στο βιβλίο, καλύπτετε απειλές από φίσινγκ σε ransomware. Ποια είναι η πιο σημαντική αρχή κυβερνοασφάλειας που οι νέοι άνθρωποι πρέπει να κατανοήσουν σήμερα;

Η πιο σημαντική αρχή είναι “εμπιστεύσου αλλά επικύρωσε”. Είναι κρίσιμο να αναπτύξεις το συνηθισμό να αμφισβητείς ψηφιακά στοιχεία πριν λάβεις δράση. Οι περισσότερες επιτυχημένες κυβερνοεπιθέσεις εκμεταλλεύονται την ανθρώπινη εμπιστοσύνη αντί να βασίζονται σε σύνθετα τεχνικά λάθη. Όταν κάνεις κλικ σε ύποπτες συνδέσεις, κατεβάζεις άγνωστα αρχεία ή απαντάς σε μηνύματα που φαίνονται οικεία, η παύση για να επικυρώσεις μπορεί να σταματήσει πολλές επιθέσεις.

Για τους νέους ανθρώπους που περνούν πολύ χρόνο online και γρήγορα μετακινούνται μεταξύ πλατφορμών, αυτή η στάση της επικύρωσης είναι ιδιαίτερα σημαντική. Η διαμόρφωση του συνηθισμού να αμφισβητείς πριν κάνεις κλικ χτίζει μια αμυντική προσέγγιση που προστατεύει από διάφορες απειλές.

Αυτή η αρχή υπερβαίνει την κυβερνοασφάλεια και εξελίσσεται σε ευρύτερη ψηφιακή γραμματισμό. Οι ίδιες δεξιότητες σκέψης που προστατεύουν από το malware επίσης βοηθούν να αναγνωρίσουν ψευδείς πληροφορίες, deepfakes και άλλους τύπους ψηφιακής εξαπάτησης.

Μεταξύ της ακαδημαϊκής έρευνάς σας, των πρωτοβουλιών STEM εκπαίδευσης και των δημοσιευμένων εργασιών σας, είναι φανερό ότι είστε παθιασμένοι με την τεχνολογία και την ηθική. Πώς ελπίζετε να διαμορφώσετε το μέλλον της ασφάλειας του AI και της υπεύθυνης καινοτομίας;

Όλα όσα κάνω εστιάζουν στην κατασκευή και διατήρηση της εμπιστοσύνης στην τεχνολογία. Το AI μπορεί να φτάσει στο πλήρες δυναμικό του μόνο αν οι άνθρωποι πιστεύουν ότι αυτά τα συστήματα είναι ασφαλή, δίκαια και διαφανή. Χωρίς αυτή την εμπιστοσύνη, ακόμη και οι επαναστατικές τεχνολογίες θα παλέψουν να κερδίσουν αποδοχή και χρήση.

Μέσω της έρευνάς μου, στόχος μου είναι να βρω κρίσιμες ευπαθείς περιοχές πριν γίνουν ευρεία ζητήματα. Εργάζομαι σε περιοχές όπως οι γεωχωρικές deepfakes και η φωνητική αυθεντικοποίηση, όπου οι κίνδυνοι δεν είναι πάντα προφανείς αλλά μπορούν να έχουν σοβαρές συνέπειες. Μέσω της εκπαίδευσης και της γραφής, θέλω να βοηθήσω τους μαθητές να κατανοήσουν αυτά τα συστήματα αντί να τα βλέπουν ως μυστηριώδεις μαύρους κουτιούς που είναι αποκλειστικά για εμπειρογνώμονες.

Η οπτική μου για την υπεύθυνη καινοτομία περιλαμβάνει ασφάλεια και δίκαιη από τις πρώτες φάσεις της ανάπτυξης, όχι ως μεταγενέστερες σκέψεις. Αυτό σημαίνει την αξιολόγηση μοντέλων όχι μόνο για την απόδοσή τους, αλλά και για πιθανές σημεία αποτυχίας, την αναγνώριση ποιος μπορεί να επηρεαστεί και τη δημιουργία στρατηγικών για τη μείωση αυτών των κινδύνων.

Σε μακροπρόθεσμο, θέλω να βοηθήσω στη δημιουργία μιας κουλτούρας όπου κάθε πρόοδος στο AI λαμβάνει ισότιμη προσοχή στην ασφάλεια και την υπευθυνότητα. Η δουλειά μου περιλαμβάνει έρευνα, εκπαίδευση και επικοινωνία, επειδή η ανίχνευση κινδύνων είναι μόνο χρήσιμη εάν μπορούμε επίσης να βοηθήσουμε τους άλλους να κατανοήσουν και να αντιμετωπίσουν αυτούς.

Εάν μπορώ να βοηθήσω στην ανίχνευση κρίσιμων ευπαθειών ενώ αυξάνω επίσης την τεχνολογική γραμματισμό, πιστεύω ότι θα παίξω ένα ρόλο στη διαμόρφωση ενός μέλλοντος AI που οι άνθρωποι μπορούν πραγματικά να εμπιστευτούν και να ωφεληθούν από αυτό.

Ευχαριστώ για τη μεγάλη συνέντευξη, οι αναγνώστες ενθαρρύνονται να διαβάσουν Tech Demystified: Κυβερνοασφάλεια: Κεντρικές Αρχές της Μοντέρνας Κυβερνοάμυνας.