Bailey Kacsmar, υποψήφια διδάκτωρ στο Πανεπιστήμιο του Γουότερλου – Σειρά συνεντεύξεων

Η Bailey Kacsmar είναι υποψήφια διδάκτωρ στο Τμήμα Επιστήμης Υπολογιστών του Πανεπιστημίου του Γουότερλοου και μελλοντικό μέλος διδακτικού προσωπικού στο Πανεπιστήμιο του Αλμπέρτα. Τα ερευνητικά της ενδιαφέροντα εστιάζονται στην ανάπτυξη τεχνολογιών που ενισχύουν την ιδιωτικότητα με γνώμονα τον χρήστη, μέσω της παράλληλης μελέτης τεχνικών προσεγγίσεων για ιδιωτική επεξεργασία παράλληλα με τις αντίστοιχες αντιλήψεις, ανησυχίες και κατανόηση των χρηστών για αυτές τις τεχνολογίες. Το έργο της στοχεύει στην ταυτοποίηση του δυναμικού και των περιορισμών για την ιδιωτικότητα στις εφαρμογές του machine learning.

Τα ερευνητικά σας ενδιαφέροντα εστιάζονται στην ανάπτυξη τεχνολογιών που ενισχύουν την ιδιωτικότητα με γνώμονα τον χρήστη, γιατί η ιδιωτικότητα στο AI είναι τόσο σημαντική;

Η ιδιωτικότητα στο AI είναι τόσο σημαντική, επειδή το AI στον κόσμο μας δεν υπάρχει χωρίς δεδομένα. Τα δεδομένα, ενώ είναι μια χρήσιμη αφαίρεση, στην πραγματικότητα περιγράφουν ανθρώπους και τις συμπεριφορές τους. Σπάνια εργαζόμαστε με δεδομένα για πληθυσμούς δέντρων και επίπεδα νερού· έτσι, κάθε φορά που εργαζόμαστε με κάτι που μπορεί να επηρεάσει πραγματικούς ανθρώπους, πρέπει να είμαστε συνειδητοί γι’ αυτό και να κατανοούμε πώς το σύστημά μας μπορεί να κάνει καλό ή κακό. Αυτό είναι ιδιαίτερα αληθινό για το AI, όπου πολλά συστήματα επωφελούνται από τεράστιες ποσότητες δεδομένων ή επιδιώκουν να χρησιμοποιήσουν εξαιρετικά ευαίσθητα δεδομένα (όπως δεδομένα υγείας) για να αναπτύξουν νέους τρόπους κατανόησης του κόσμου μας.

Ποια είναι κάποια από τα σημεία που έχετε δει ότι το machine learning έχει προδώσει την ιδιωτικότητα των χρηστών;

Η λέξη «προδοσία» είναι βαριά. Ωστόσο, κάθε φορά που ένα σύστημα χρησιμοποιεί πληροφορίες για ανθρώπους χωρίς τη συναίνεσή τους, χωρίς να τους ενημερώνει και χωρίς να λαμβάνει υπόψη τους πιθανούς κινδύνους, τότε κινδυνεύει να προδώσει τα ατομικά ή κοινωνικά πρότυπα ιδιωτικότητας. Αυτό οδηγεί σε προδοσία με χιλιάδες μικρές τομές. Τέτοιες πρακτικές μπορεί να περιλαμβάνουν την εκπαίδευση ενός μοντέλου στα εισερχόμενα email των χρηστών, εκπαίδευση σε μηνύματα κειμένου χρηστών ή σε δεδομένα υγείας· όλα αυτά χωρίς να ενημερώνονται τα υποκείμενα των δεδομένων.

Μπορείτε να ορίσετε τι είναι η διαφορική ιδιωτικότητα και ποια είναι η άποψή σας για αυτό;

Η διαφορική ιδιωτικότητα είναι ένας ορισμός ή τεχνική που έχει αναρριχηθεί στην προβολή όσον αφορά τη χρήση για την επίτευξη τεχνικής ιδιωτικότητας. Οι τεχνικοί ορισμοί της ιδιωτικότητας, γενικά, περιλαμβάνουν δύο βασικά στοιχεία· τι προστατεύεται και από ποιόν. Μέσα στην τεχνική ιδιωτικότητα, οι εγγυήσεις ιδιωτικότητας είναι προστασίες που επιτυγχάνονται με βάση μια σειρά υποθέσεων. Αυτές οι υποθέσεις μπορεί να αφορούν τους πιθανούς αντιπάλους, τις πολυπλοκότητες του συστήματος ή τις στατιστικές. Είναι μια εξαιρετικά χρήσιμη τεχνική που έχει ένα ευρύ φάσμα εφαρμογών. Ωστόσο, το σημαντικό είναι να θυμόμαστε ότι η διαφορική ιδιωτικότητα δεν είναι ισοδύναμη με την ιδιωτικότητα.

Η ιδιωτικότητα δεν περιορίζεται σε έναν ορισμό ή έννοια, και είναι σημαντικό να είμαστε συνειδητοί για έννοιες πέρα από αυτό. Για παράδειγμα, η πλαισιακή ακεραιότητα είναι μια εννοιολογική έννοια της ιδιωτικότητας που λαμβάνει υπόψη πράγματα όπως το πώς διαφορετικές εφαρμογές ή διαφορετικές οργανώσεις αλλάζουν τις αντιλήψεις ιδιωτικότητας ενός ατόμου σε σχέση με μια κατάσταση. Υπάρχουν επίσης νομικές έννοιες ιδιωτικότητας, όπως αυτές που περιλαμβάνονται στον καναδικό νόμο PIPEDA, τον ευρωπαϊκό GDPR και τον νόμο προστασίας καταναλωτών της Καλιφόρνιας (CCPA). Όλα αυτά σημαίνουν ότι δεν μπορούμε να αντιμετωπίσουμε τα τεχνικά συστήματα σαν να υπάρχουν σε ένα κενό απαλλαγμένο από άλλους παράγοντες ιδιωτικότητας, ακόμη και αν χρησιμοποιείται η διαφορική ιδιωτικότητα.

Μια άλλη τεχνική που ενισχύει την ιδιωτικότητα στο machine learning είναι η ομοσπονδιακή μάθηση, μπορείτε να ορίσετε τι είναι αυτό και ποια είναι η άποψή σας για αυτό;

Η ομοσπονδιακή μάθηση είναι ένας τρόπος για την εκτέλεση του machine learning όταν το μοντέλο πρέπει να εκπαιδευτεί σε μια συλλογή δεδομένων που είναι κατανεμημένα σε πολλούς κατόχους ή τοποθεσίες. Δεν είναι εγγενώς ένας τύπος machine learning που ενισχύει την ιδιωτικότητα. Ένας τύπος machine learning που ενισχύει την ιδιωτικότητα πρέπει να ορίσει με τυπικό τρόπο τι προστατεύεται, ποιος προστατεύεται από ποιόν, και τις συνθήκες που πρέπει να ικανοποιηθούν για αυτές τις προστασίες. Για παράδειγμα, όταν σκεφτόμαστε μια απλή διαφορική ιδιωτική επεξεργασία, εγγυάται ότι κάποιος που βλέπει την έξοδο δεν θα μπορεί να καθορίσει αν ένα συγκεκριμένο σημείο δεδομένων συμπεριλήφθηκε ή όχι.

Επιπλέον, η διαφορική ιδιωτικότητα δεν παρέχει αυτή τη εγγύηση αν, για παράδειγμα, υπάρχουν συσχετίσεις μεταξύ των σημείων δεδομένων. Η ομοσπονδιακή μάθηση δεν έχει αυτή τη δυνατότητα· απλώς εκπαιδεύει ένα μοντέλο σε μια συλλογή δεδομένων χωρίς να απαιτεί από τους κατόχους των δεδομένων να παρέχουν απευθείας τα σύνολα δεδομένων τους σε άλλους ή σε τρίτους. Αν και αυτό ακούγεται σαν μια λειτουργία ιδιωτικότητας, αυτό που χρειάζεται είναι μια τυπική εγγύηση ότι δεν μπορούμε να μάθουμε τις προστατευμένες πληροφορίες με βάση τους μεσολαβητές και τις εξόδους που θα παρατηρήσουν τα μη έμπιστα μέρη. Αυτή η τυπικότητα είναι ιδιαίτερα σημαντική στο περιβάλλον ομοσπονδιακής μάθησης, όπου τα μη έμπιστα μέρη περιλαμβάνουν όλους όσους παρέχουν δεδομένα για την εκπαίδευση του συλλογικού μοντέλου.

Ποιοι είναι μερικοί από τους τρέχοντες περιορισμούς αυτών των προσεγγίσεων;

Οι τρέχοντες περιορισμοί θα μπορούσαν να περιγραφούν καλύτερα ως η φύση του συμβιβασμού μεταξύ ιδιωτικότητας και χρησιμότητας. Ακόμη και αν κάνετε όλα τα άλλα, επικοινωνήσετε τις επιπτώσεις ιδιωτικότητας σε εκείνους που επηρεάζονται, αξιολογήσετε το σύστημα για αυτό που προσπαθείτε να κάνετε, κ.λπ., τελικά η επίτευξη τέλειας ιδιωτικότητας σημαίνει ότι δεν δημιουργούμε το σύστημα, η επίτευξη τέλειας χρησιμότητας γενικά δεν θα έχει καμία προστασία ιδιωτικότητας, οπότε η ερώτηση είναι πώς να καθορίσουμε τι είναι ο “ιδανικός” συμβιβασμός. Πώς να βρούμε το σωστό σημείο και να κινηθούμε προς αυτό, ώστε να επιτύχουμε ακόμη την επιθυμητή λειτουργικότητα ενώ παρέχουμε τις απαραίτητες προστασίες ιδιωτικότητας.

Στοχεύετε τώρα να αναπτύξετε τεχνολογίες ιδιωτικότητας που έχουν συνείδηση του χρήστη μέσω της παράλληλης μελέτης τεχνικών λύσεων για ιδιωτική επεξεργασία. Μπορείτε να μας πείτε λεπτομέρειες για μερικές από αυτές τις τεχνικές λύσεις;

Αυτό που εννοώ με αυτές τις λύσεις είναι ότι μπορούμε, σε γενικές γραμμές, να αναπτύξουμε οποιοδήποτε αριθμό τεχνικών συστημάτων ιδιωτικότητας. Ωστόσο, όταν το κάνουμε, είναι σημαντικό να καθορίσουμε αν οι εγγυήσεις ιδιωτικότητας φτάνουν σε εκείνους που επηρεάζονται. Αυτό μπορεί να σημαίνει την ανάπτυξη ενός συστήματος μετά την ανακάλυψη των ειδών προστασίας που θεωρεί σημαντικά ο πληθυσμός. Αυτό μπορεί να σημαίνει την ενημέρωση ενός συστήματος μετά την ανακάλυψη του πώς οι άνθρωποι χρησιμοποιούν πραγματικά ένα σύστημα με βάση τις πραγματικές τους απειλές και κινδύνους. Μια τεχνική λύση θα μπορούσε να είναι ένα σωστό σύστημα που ικανοποιεί τον ορισμό που ανέφερα νωρίτερα. Μια λύση που έχει συνείδηση του χρήστη θα σχεδιάσει το σύστημά της με βάση τις εισροές από τους χρήστες και άλλους που επηρεάζονται στο επιδιωκόμενο πεδίο εφαρμογής.

Εσείς ζητάτε ενδιαφερόμενους μεταπτυχιακούς φοιτητές να αρχίσουν τον Σεπτέμβριο του 2024, γιατί νομίζετε ότι οι φοιτητές πρέπει να ενδιαφερθούν για την ιδιωτικότητα του AI;

Νομίζω ότι οι φοιτητές πρέπει να ενδιαφερθούν γιατί είναι κάτι που θα μεγαλώσει στην επικράτησή του μέσα στην κοινωνία μας. Για να καταλάβουμε πόσο γρήγορα εξαπλώνονται αυτά τα συστήματα, δεν χρειάζεται να ψάξουμε πέρα από την πρόσφατη ενίσχυση του Chat-GPT μέσω άρθρων, κοινωνικών μέσων και συζητήσεων για τις επιπτώσεις του. Βρισκόμαστε σε μια κοινωνία όπου η συλλογή και η χρήση δεδομένων είναι τόσο ενσωματωμένα στη καθημερινή μας ζωή, που σχεδόν συνεχώς παρέχουμε πληροφορίες για τους εαυτούς μας σε διάφορες εταιρείες και οργανισμούς. Αυτές οι εταιρείες θέλουν να χρησιμοποιήσουν τα δεδομένα, σε ορισμένες περιπτώσεις για να βελτιώσουν τις υπηρεσίες τους, σε άλλες για κέρδος. Σε αυτό το σημείο, φαίνεται μη ρεαλιστικό να πιστεύουμε ότι αυτές οι εταιρικές πρακτικές χρήσης δεδομένων θα αλλάξουν. Ωστόσο, η ύπαρξη συστημάτων που προστατεύουν την ιδιωτικότητα των χρηστών ενώ επιτρέπουν ορισμένες αναλύσεις που επιθυμούν οι εταιρείες μπορεί να βοηθήσει στην εξισορρόπηση κινδύνων και οφελών που έχει γίνει τόσο σιωπηλά μέρος της κοινωνίας μας.

Ευχαριστώ για την εξαιρετική συνέντευξη, οι αναγνώστες που ενδιαφέρονται να μάθουν περισσότερα πρέπει να επισκεφθούν τη σελίδα της Bailey Kacsmar στο Github.