Συνεντεύξεις
Patricia Thaine, CEO tại Private AI – Interview Series
Η Patricia Thaine είναι συνιδρυτής και CEO της Private AI, υποψήφια διδάκτωρ στο τμήμα Επιστήμης Υπολογιστών του Πανεπιστημίου του Τορόντο και μεταπτυχιακή συνεργάτης στο Ινστιτούτο Vector, όπου πραγματοποιεί έρευνα για την προστασία της ιδιωτικής ζωής στη φυσική επεξεργασία γλώσσας, με εστίαση στην εφαρμοσμένη κρυπτογράφηση. Επίσης, πραγματοποιεί έρευνα για τις υπολογιστικές μεθόδους για την αποκρυπτογράφηση χαμένων γλωσσών.
Η Patricia είναι αποδέκτης της υποτροφίας NSERC Postgraduate, της υποτροφίας RBC Graduate, της υποτροφίας Beatrice “Trixie” Worsley Graduate στο τμήμα Επιστήμης Υπολογιστών και της υποτροφίας Ontario Graduate. Έχει οκτώ χρόνια εμπειρίας σε έρευνα και ανάπτυξη λογισμικού, συμπεριλαμβανομένων των McGill Language Development Lab, του τμήματος Υπολογιστικής Γλωσσολογίας του Πανεπιστημίου του Τορόντο, του τμήματος Γλωσσολογίας του Πανεπιστημίου του Τορόντο και του Δημόσιου Οργανισμού Υγείας του Καναδά.
Τι σας έκανε να ενδιαφερθείτε για την επιστήμη των υπολογιστών;
Η ικανότητα να λύνετε προβλήματα και να είστε δημιουργικοί ταυτόχρονα. Είναι σαν ένα χειροτέχνημα. Βλέπετε τις ιδέες σας να γίνονται πραγματικότητα, όπως ένας ξυλουργός κατασκευάζει έπιπλα. Όπως άκουσα κάποιον να λέει μια φορά: η προγραμματισμός είναι το终极 δημιουργικό εργαλείο. Το γεγονός ότι τα προϊόντα που κατασκευάζετε μπορούν να κλιμακωθούν και να χρησιμοποιηθούν από ανθρώπους σε όλο τον κόσμο είναι ένα επιπλέον πλεονέκτημα.
Μπορείτε να συζητήσετε την ιστορία της Private AI και πώς προέκυψε από την παρατήρησή σας ότι υπάρχει έλλειψη εργαλείων που είναι εύκολα στην ενσωμάτωση για την προστασία της ιδιωτικής ζωής;
Μέσω της ομιλίας και της γραφής, κάποιες από τις πιο ευαίσθητες πληροφορίες μας παράγονται και μεταφέρονται στις εταιρείες των οποίων χρησιμοποιούμε τις υπηρεσίες. Όταν σκεφτόμασταν ποια προϊόντα NLP να κατασκευάσουμε, υπήρχε ένα επίπεδο προστασίας της ιδιωτικής ζωής που θα έπρεπε να ενσωματωθούμε, το οποίο απλά δεν υπήρχε στην αγορά. Για να χρησιμοποιήσετε λύσεις προστασίας της ιδιωτικής ζωής, είτε οι εταιρείες χρειάζονταν να μεταφέρουν τα δεδομένα των χρηστών τους σε einen τρίτο μέρος, είτε να χρησιμοποιήσουν υποβαθμισμένες ανοιχτές λύσεις που απλά δεν ήταν đủ καλές για την προστασία της ιδιωτικής ζωής των χρηστών, είτε να κατασκευάσουν μια λύση εντός της εταιρείας με πολύ λίγη εμπειρία στην προστασία της ιδιωτικής ζωής. Έτσι, αποφασίσαμε να επικεντρωθούμε στη δημιουργία των καλύτερων προϊόντων δυνατών για τους développers και τις ομάδες AI που χρειάζονται να έχουν τις εξόδους των τεχνολογιών προστασίας της ιδιωτικής ζωής να λειτουργούν εύκολα για τις ανάγκες τους.
Γιατί η προστασία της ιδιωτικής ζωής στην AI είναι σημαντική;
Περίπου το 80% των πληροφοριών που παράγονται είναι μη δομημένες και η AI είναι ο μόνος τρόπος να δώσουμε νόημα σε όλα αυτά τα δεδομένα. Μπορεί να χρησιμοποιηθεί για καλό, όπως να βοηθήσει στην ανίχνευση πτώσεων σε ηλικιωμένους, ή για κακό, όπως η δημιουργία προφίλ και η παρακολούθηση ατόμων από υποαντιπροσωπεύουσες πληθυσμούς. Η διασφάλιση ότι η προστασία της ιδιωτικής ζωής είναι ενσωματωμένη στο λογισμικό που δημιουργούμε, καθιστά πολύ πιο δύσκολο για την AI να χρησιμοποιηθεί με βλαβερό τρόπο.
Πώς η προστασία της ιδιωτικής ζωής είναι ένα ανταγωνιστικό πλεονέκτημα;
Υπάρχουν πολλά λόγια, αλλά εδώ είναι μόνο quelques:
- Ολοένα και περισσότεροι χρήστες ενδιαφέρονται για την προστασία της ιδιωτικής ζωής και, καθώς οι καταναλωτές γίνονται πιο μορφωμένοι, αυτή η ανησυχία αυξάνεται: 70% των καταναλωτών ανησυχούν για την προστασία των δεδομένων τους.
- Είναι πολύ πιο εύκολο να κάνετε επιχειρήσεις με άλλες επιχειρήσεις εάν έχετε σωστά πρωτόκολλα και τεχνολογίες προστασίας δεδομένων και προστασίας της ιδιωτικής ζωής.
- Όταν έχετε κατασκευάσει τα προϊόντα σας με τρόπο που προστατεύει την ιδιωτική ζωή, κρατάτε καλύτερη εποπτεία των σημείων ευαλωτότητας στην υπηρεσία σας και, ιδιαίτερα μέσω της ελαχιστοποίησης των δεδομένων, απομακρύνετε τα δεδομένα που δεν χρειάζεστε και θα σας προκαλέσουν προβλήματα όταν συμβεί κυβερνοεπίθεση.
Μπορείτε να συζητήσετε τη σημασία της προστασίας της ιδιωτικής ζωής των δεδομένων εκπαίδευσης και γιατί είναι ευάλωτη στην αντίστροφη μηχανική;
Αυτό είναι ένα εξαιρετικό ερώτημα και πρέπει να υπάρξει πολύ περισσότερη εκπαίδευση σε αυτό. Απλοϊστικά, τα μοντέλα μηχανικής μάθησης θυμάται πληροφορίες. Όσο μεγαλύτερα είναι τα μοντέλα, τόσο περισσότερο θυμάται τις περιπτώσεις γωνίας. Αυτό σημαίνει ότι οι πληροφορίες που αυτά τα μοντέλα εκπαιδεύτηκαν μπορούν να εκπονηθούν στην παραγωγή. Αυτό έχει αποδειχθεί σε πολλά ερευνητικά έγγραφα, συμπεριλαμβανομένων The Secret Sharer: Evaluating and Testing Unintended Memorization in Neural Networks και Extracting Training Data from Large Language Models.
Έχει επίσης αποδειχθεί ότι προσωπικές πληροφορίες μπορούν να εξαχθούν από word embeddings και, για όσους έχουν αμφιβολίες ότι αυτό είναι ένα πραγματικό πρόβλημα, υπήρχε επίσης σκανδαλό này το χρόνο όταν ένας κορεάτης bot αγάπης έγραφε λεπτομέρειες χρηστών σε συνομιλίες με άλλους χρήστες.
Τι είναι η άποψή σας για την ομοσπονδιακή μάθηση και την προστασία της ιδιωτικής ζωής των χρηστών;
Η ομοσπονδιακή μάθηση είναι ένα εξαιρετικό βήμα όταν η περίπτωση χρήσης το επιτρέπει. Ωστόσο, είναι ακόμη δυνατό να εξαχθούν πληροφορίες σχετικά με τις εισόδους του χρήστη από τις ενημερώσεις βαρών που αποστέλλονται στο cloud από τη συσκευή ενός συγκεκριμένου χρήστη, οπότε είναι σημαντικό να συνδυαστεί η ομοσπονδιακή μάθηση με άλλες τεχνολογίες προστασίας της ιδιωτικής ζωής (διαφορική ιδιωτικότητα και ομομορφική κρυπτογράφηση/ασφαλής πολλαπλή επεξεργασία). Κάθε τεχνολογία προστασίας της ιδιωτικής ζωής πρέπει να επιλεγεί σύμφωνα με την περίπτωση χρήσης – καμία δεν μπορεί να χρησιμοποιηθεί ως σφυρί για να λύσει όλα τα προβλήματα. Περίεργα για το δέντρο αποφάσεων εδώ. Ένα μεγάλο κέρδος είναι ότι ποτέ δεν στείλετε τα ακατέργαστα δεδομένα σας έξω από τη συσκευή σας. Ένα μεγάλο μειονέκτημα είναι ότι αν χρειάζεστε δεδομένα για να αποσφαλματίσετε ένα σύστημα ή να δείτε αν εκπαιδεύεται σωστά, γίνεται πολύ πιο δύσκολο να αποκτήσετε. Η ομοσπονδιακή μάθηση είναι ένα εξαιρετικό ξεκίνημα με πολλά ανεπίλυτα προβλήματα που εργάζονται η έρευνα και η βιομηχανία.
Η Private AI ermöglicht στους développers να ενσωματώσουν την ανάλυση προστασίας της ιδιωτικής ζωής με λίγες γραμμές κώδικα για να διασφαλίσουν την προστασία της ιδιωτικής ζωής, πώς λειτουργεί αυτό;
Η τεχνολογία μας λειτουργεί ως REST API, στο οποίο οι χρήστες μας στέλνουν αιτήσεις POST με το κείμενο που θέλουν να σβήσουν, να αναγνωρίσουν ή να ψευδωνυμοποιήσουν/ενισχύσουν με πραγματικά δεδομένα. Κάποιοι από τους πελάτες μας στέλνουν μεταγραφές κλήσεων που πρέπει να σβηστούν για να είναι συμμόρφωτες με τον PCI, ενώ άλλοι στέλνουν ολόκληρες συνομιλίες ώστε να μπορέσουν να χρησιμοποιήσουν τις πληροφορίες για να εκπαιδεύσουν chatbots, αναλυτές συναισθήματος ή άλλα μοντέλα NLP. Οι χρήστες μας μπορούν επίσης να επιλέξουν ποια οντότητες χρειάζονται να κρατήσουν ή ακόμη και να χρησιμοποιήσουν ως μεταδεδομένα για να παρακολουθήσουν πού αποθηκεύονται τα προσωπικά δεδομένα. Παίρνουμε μακριά τον πόνο του να πρέπει να εκπαιδεύσετε ένα ακριβές σύστημα για να ανιχνεύσετε και να αντικαταστήσετε προσωπικές πληροφορίες σε πραγματικά ακατάστατα δεδομένα.
Γιατί η προστασία της ιδιωτικής ζωής για τις συσκευές IoT είναι ένα τρέχον ζήτημα και ποια είναι η άποψή σας για την επίλυση του;
Τελικά, ο καλύτερος τρόπος για να λυθεί ένα πρόβλημα προστασίας της ιδιωτικής ζωής είναι πολύ εξαρτώμενο από την περίπτωση χρήσης, και οι συσκευές IoT δεν διαφέρουν. Ενώ κάποιες περιπτώσεις χρήσης μπορεί να βασίζονται στην ανάπτυξη σε άκρη, ανάπτυξη σε άκρη και προστασία της ιδιωτικής ζωής ομοσπονδιακής μάθησης (π.χ. crowd sensing σε έξυπνες πόλεις), άλλες περιπτώσεις χρήσης μπορεί να χρειάζονται να βασιστούν στην συλλογή δεδομένων και ανωνυμοποίηση (π.χ. πληροφορίες χρήσης ενέργειας). Με αυτό που έχει कहθεί, οι συσκευές IoT είναι ένα εξαιρετικό παράδειγμα του πώς η προστασία της ιδιωτικής ζωής και η ασφάλεια πρέπει να πάνε χέρι χέρι. Αυτές οι συσκευές είναι εξαιρετικά ανασφαλείς σε κυβερνοεπιθέσεις, οπότε υπάρχει μόνο τόσο πολύ που οι τεχνολογίες προστασίας της ιδιωτικής ζωής μπορούν να κάνουν χωρίς να διορθώσουν τις βασικές ευαλωτότητες της συσκευής. Από την άλλη πλευρά, χωρίς να σκεφτόμαστε τρόπους για την ενίσχυση της προστασίας της ιδιωτικής ζωής των χρηστών, οι πληροφορίες που συλλέγονται από μέσα στα σπίτια μας μπορούν να μοιραστούν, ανεξελεγκτά, σε άγνωστες πάρτι, καθιστώντας το εξαιρετικά δύσκολο να εγγυηθούμε την ασφάλεια των πληροφοριών. Έχουμε δύο μέτωπα για να βελτιώσουμε εδώ και η προσχέδιο νομοθεσίας που γράφεται από την Ευρωπαϊκή Επιτροπή για την ασφάλεια των συσκευών IoT μπορεί να γίνει αυτό που θα κάνει τις κατασκευαστές συσκευών να λάβουν σοβαρά την ευθύνη τους για την ασφάλεια και την προστασία της ιδιωτικής ζωής των καταναλωτών.
Υπάρχει κάτι άλλο που θα ήθελε να μοιραστεί για την Private AI;
Είμαστε μια ομάδα εμπειρογνωμόνων στην προστασία της ιδιωτικής ζωής, τη φυσική γλώσσα, τη λεξημένη γλώσσα, την επεξεργασία εικόνας, την ανάπτυξη μοντέλων μηχανικής μάθησης σε περιβάλλοντα με περιορισμένα πόροι, υποστηριζόμενοι από το M12, το ταμείο επιχειρηματικών κεφαλαίων της Microsoft.
Βεβαιωνόμαστε ότι τα προϊόντα που δημιουργούμε, εκτός από το ότι είναι εξαιρετικά ακριβή, είναι επίσης υπολογιστικά αποτελεσματικά, οπότε δεν έχετε ένα τεράστιο λογαριασμό cloud στο τέλος του μήνα. Επίσης, τα δεδομένα των πελατών μας δεν μεταφέρονται ποτέ σε εμάς – όλα επεξεργάζονται στο δικό τους περιβάλλον.
Ευχαριστούμε για τη μεγάλη συνέντευξη, για να μάθετε περισσότερα επισκεφθείτε Private AI.
