Bailey Kacsmar, Υποψήφιος Διδάκτωρ στο Πανεπιστήμιο του Γουότερλοου – Σειρά Συνεντεύξεων

O Bailey Kacsmar είναι υποψήφιος διδάκτωρ στο Τμήμα Επιστήμης Υπολογιστών του Πανεπιστημίου του Γουότερλοου και επερχόμενος μέλος διδακτικού προσωπικού στο Πανεπιστήμιο του Αλμπέρτα. Τα ερευνητικά του ενδιαφέροντα εστιάζονται στην ανάπτυξη τεχνολογιών που ενισχύουν την ιδιωτικότητα με γνώμονα τον χρήστη, μέσω της παράλληλης μελέτης τεχνικών προσεγγίσεων για ιδιωτική επεξεργασία παράλληλα με τις αντίστοιχες αντιλήψεις, ανησυχίες και κατανόηση των χρηστών για αυτές τις τεχνολογίες. Το έργο του στοχεύει στην ταυτοποίηση του потенτσιάλ και των περιορισμών για την ιδιωτικότητα στις εφαρμογές του machine learning.

Τα ερευνητικά σας ενδιαφέροντα εστιάζονται στην ανάπτυξη τεχνολογιών που ενισχύουν την ιδιωτικότητα με γνώμονα τον χρήστη, γιατί η ιδιωτικότητα στο AI είναι τόσο σημαντική;

Η ιδιωτικότητα στο AI είναι τόσο σημαντική, επειδή το AI στον κόσμο μας δεν υπάρχει χωρίς δεδομένα. Τα δεδομένα, ενώ είναι μια χρήσιμη αφαίρεση, στην πραγματικότητα περιγράφουν ανθρώπους και τις συμπεριφορές τους. Σπάνια εργαζόμαστε με δεδομένα για πληθυσμούς δέντρων και επίπεδα νερού· έτσι, κάθε φορά που εργαζόμαστε με κάτι που μπορεί να επηρεάσει πραγματικούς ανθρώπους, πρέπει να είμαστε συνειδητοί γι’ αυτό και να κατανοούμε πώς το σύστημά μας μπορεί να κάνει καλό ή κακό. Αυτό είναι ιδιαίτερα αληθινό για το AI, όπου πολλά συστήματα επωφελούνται από τεράστιες ποσότητες δεδομένων ή επιδιώκουν να χρησιμοποιήσουν εξαιρετικά ευαίσθητα δεδομένα (όπως δεδομένα υγείας) για να dévelopουν νέες κατανόησεις του κόσμου μας.

Ποια είναι κάποια από τα σημεία που έχετε δει ότι το machine learning έχει προδώσει την ιδιωτικότητα των χρηστών;

Η προδοσία είναι ένα ισχυρό λόγο. Ωστόσο, κάθε φορά που ένα σύστημα χρησιμοποιεί πληροφορίες για ανθρώπους χωρίς τη συναίνεσή τους, χωρίς να τους ενημερώνει και χωρίς να λαμβάνει υπόψη τους πιθανούς κινδύνους, τότε κινδυνεύει να προδώσει τα ατομικά ή κοινωνικά πρότυπα ιδιωτικότητας. Αυτό οδηγεί σε προδοσία με χιλιάδες μικρές τομές. Τέτοιες πρακτικές μπορεί να περιλαμβάνουν την εκπαίδευση ενός μοντέλου σε email θυρών χρηστών, εκπαίδευση σε μηνύματα κειμένου χρηστών ή σε δεδομένα υγείας· όλα αυτά χωρίς να ενημερώνονται οι υποκείμενοι των δεδομένων.

Μπορείτε να ορίσετε τι είναι η διαφορική ιδιωτικότητα και ποια είναι η άποψή σας για αυτό;

Η διαφορική ιδιωτικότητα είναι một ορισμός ή τεχνική που έχει αναρριχηθεί στην προβολή όσον αφορά τη χρήση για την επίτευξη τεχνικής ιδιωτικότητας. Οι τεχνικοί ορισμοί της ιδιωτικότητας, γενικά, περιλαμβάνουν δύο βασικά στοιχεία· τι προστατεύεται και από ποιόν. Μέσα στην τεχνική ιδιωτικότητα, οι εγγυήσεις ιδιωτικότητας είναι προστασίες που επιτυγχάνονται με βάση μια σειρά υποθέσεων. Αυτές οι υποθέσεις μπορεί να αφορούν τους πιθανούς αντιπάλους, τις复잡ότητες του συστήματος ή τις στατιστικές. Είναι μια εξαιρετικά χρήσιμη τεχνική που έχει một ευρύ φάσμα εφαρμογών. Ωστόσο, το σημαντικό είναι να θυμόμαστε ότι η διαφορική ιδιωτικότητα δεν είναι ισοδύναμη με την ιδιωτικότητα.

Η ιδιωτικότητα δεν περιορίζεται σε μια ορισμό ή概念, και είναι σημαντικό να είμαστε συνειδητοί για έννοιες πέρα από αυτό. Για παράδειγμα, η контекτουαλική ακεραιότητα είναι μια концептуαλική έννοια της ιδιωτικότητας που λαμβάνει υπόψη πράγματα όπως το πώς διαφορετικές εφαρμογές ή διαφορετικές οργανώσεις αλλάζουν τις αντιλήψεις ιδιωτικότητας ενός ατόμου σε σχέση με μια κατάσταση. Υπάρχουν επίσης νομικές έννοιες ιδιωτικότητας, όπως αυτές που περιλαμβάνονται στον καναδικό νόμο PIPEDA, τον ευρωπαϊκό GDPR και τον νόμο προστασίας καταναλωτών της Καλιφόρνιας (CCPA). Όλα αυτά σημαίνουν ότι δεν μπορούμε να αντιμετωπίσουμε τα τεχνικά συστήματα ως αν υπάρχουν σε ένα κενό απαλλαγμένο από άλλους παράγοντες ιδιωτικότητας, ακόμη και αν χρησιμοποιείται η διαφορική ιδιωτικότητα.

Μια άλλη τεχνική που ενισχύει την ιδιωτικότητα στο machine learning είναι η ομοσπονδιακή μάθηση, μπορείτε να ορίσετε τι είναι αυτό και ποια είναι η άποψή σας για αυτό;

Η ομοσπονδιακή μάθηση είναι ένας τρόπος για την εκτέλεση του machine learning όταν το μοντέλο πρέπει να εκπαιδευτεί σε μια συλλογή δεδομένων που είναι κατανεμημένα σε plusieurs ιδιοκτήτες ή θέσεις. Δεν είναι εγγενώς ένας τύπος machine learning που ενισχύει την ιδιωτικότητα. Ένας τύπος machine learning που ενισχύει την ιδιωτικότητα πρέπει να ορίσει正式ά τι προστατεύεται, ποιος προστατεύεται από ποιόν, και τις συνθήκες που πρέπει να ικανοποιηθούν για αυτές τις προστασίες. Για παράδειγμα, όταν σκεφτόμαστε μια απλή διαφορική ιδιωτική επεξεργασία, εγγυάται ότι κάποιος που βλέπει την έξοδο δεν θα μπορεί να καθορίσει αν ένα συγκεκριμένο δεδομένο σημείο συνεισέφερε ή όχι.

Επιπλέον, η διαφορική ιδιωτικότητα δεν παρέχει αυτή τη гарантиά αν, για παράδειγμα, υπάρχουν συσχετίσεις μεταξύ των δεδομένων σημείων. Η ομοσπονδιακή μάθηση δεν έχει αυτή τη δυνατότητα· απλώς εκπαιδεύει ένα μοντέλο σε μια συλλογή δεδομένων χωρίς να απαιτεί από τους κατόχους των δεδομένων να παρέχουν直接ά τα δεδομένα τους σε άλλους ή σε τρίτους. Αν και αυτό ακούγεται σαν μια λειτουργία ιδιωτικότητας, αυτό που χρειάζεται είναι μια формική εγγύηση ότι δεν μπορούμε να μάθουμε τις προστατευμένες πληροφορίες με βάση τους μεσολαβητές και τις εξόδους που θα παρατηρήσουν οι αξιόπιστοι παράγοντες. Αυτή η формικότητα είναι ιδιαίτερα σημαντική στην ομοσπονδιακή ρύθμιση, όπου οι αξιόπιστοι παράγοντες περιλαμβάνουν όλους όσους παρέχουν δεδομένα για την εκπαίδευση του συλλογικού μοντέλου.

Ποια είναι κάποια από τα τρέχοντα περιορισμοί αυτών των προσεγγίσεων;

Οι τρέχοντες περιορισμοί θα μπορούσαν να περιγραφούν καλύτερα ως η φύση του εμπορίου ιδιωτικότητας-χρησιμότητας. Ακόμη και αν κάνετε όλα τα άλλα, επικοινωνήσετε τις επιπτώσεις ιδιωτικότητας σε εκείνους που επηρεάζονται, αξιολογήσετε το σύστημα για αυτό που προσπαθείτε να κάνετε, κ.λπ., στο τέλος πάντων, έρχεται η επίτευξη τέλειας ιδιωτικότητας σημαίνει ότι δεν δημιουργούμε το σύστημα, η επίτευξη τέλειας χρησιμότητας γενικά δεν θα έχει καμία προστασία ιδιωτικότητας, οπότε η ερώτηση είναι πώς να καθορίσουμε τι είναι ο “ιδανικός” συμβιβασμός. Πώς να βρούμε το σωστό σημείο και να κινηθούμε προς αυτό, ώστε να επιτύχουμε ακόμη τη επιθυμητή λειτουργικότητα ενώ παρέχουμε τις απαραίτητες προστασίες ιδιωτικότητας.

Εσείς στόχευε να αναπτύξετε τεχνολογίες ιδιωτικότητας που έχουν συνείδηση του χρήστη μέσω της παράλληλης μελέτης τεχνικών λύσεων για ιδιωτική επεξεργασία. Μπορείτε να μας πείτε κάποια από αυτά τα τεχνικά λύσεις;

Αυτό που εννοώ με αυτές τις λύσεις είναι ότι μπορούμε, με ευρεία ομιλία, να αναπτύξουμε οποιοδήποτε αριθμό τεχνικών συστημάτων ιδιωτικότητας. Ωστόσο, όταν το κάνουμε, είναι σημαντικό να καθορίσουμε αν οι εγγυήσεις ιδιωτικότητας φτάνουν σε εκείνους που επηρεάζονται. Αυτό μπορεί να σημαίνει την ανάπτυξη eines συστήματος μετά την ανακάλυψη των τύπων προστασιών που αξιολογούν οι πληθυσμοί. Αυτό μπορεί να σημαίνει την ενημέρωση eines συστήματος μετά την ανακάλυψη του πώς οι άνθρωποι χρησιμοποιούν πραγματικά ένα σύστημα με βάση τις πραγματικές τους απειλές και κινδύνους. Μια τεχνική λύση θα μπορούσε να είναι ένα σωστό σύστημα που ικανοποιεί τον ορισμό που ανέφερα νωρίτερα. Μια λύση που έχει συνείδηση του χρήστη θα σχεδιάσει το σύστημά της με βάση τις εισροές από τους χρήστες και άλλους που επηρεάζονται στην πεδίο εφαρμογής.

Εσείς ζητάτε ενδιαφερόμενους μεταπτυχιακούς φοιτητές να αρχίσουν τον Σεπτέμβριο του 2024, γιατί νομίζετε ότι οι φοιτητές πρέπει να ενδιαφερθούν για την ιδιωτικότητα του AI;

Νομίζω ότι οι φοιτητές πρέπει να ενδιαφερθούν γιατί είναι κάτι που θα μεγαλώσει στην επικράτησή του μέσα στην κοινωνία μας. Για να δούμε πόσο γρήγορα αυτές οι συστήματα, δεν χρειάζεται να ψάξουμε πέρα από την πρόσφατη ενίσχυση του Chat-GPT μέσω άρθρων, κοινωνικών μέσων και συζητήσεων για τις επιπτώσεις του. Βρισκόμαστε σε μια κοινωνία όπου η συλλογή και η χρήση δεδομένων είναι τόσο ενσωματωμένα στη καθημερινή μας ζωή, που σχεδόν συνεχώς παρέχουμε πληροφορίες για τους εαυτούς μας σε διάφορες εταιρείες και οργανισμούς. Αυτές οι εταιρείες θέλουν να χρησιμοποιήσουν τα δεδομένα, σε ορισμένες περιπτώσεις για να βελτιώσουν τις υπηρεσίες τους, σε άλλες για κέρδος. Σε αυτό το σημείο, φαίνεται αρεστό να σκεφτόμαστε ότι οι εταιρικές πρακτικές χρήσης δεδομένων δεν θα αλλάξουν. Ωστόσο, η ύπαρξη συστημάτων που προστατεύουν την ιδιωτικότητα των χρηστών ενώ επιτρέπουν ορισμένες αναλύσεις που επιθυμούν οι εταιρείες μπορεί να βοηθήσει να ισορροπήσει τον κίνδυνο-αποζημίωση που έχει γίνει τόσο σιωπηλά μέρος της κοινωνίας μας.

Ευχαριστώ για τη μεγάλη συνέντευξη, οι αναγνώστες που ενδιαφέρονται να μάθουν περισσότερα πρέπει να επισκεφθούν τη σελίδα του Bailey Kacsmar στο Github.