Ροσάνακ Χουμανφάρ, Αντιπρόεδρος Προϊόντων Μηχανικής Μάθησης στην Integrate.ai – Σειρά Συνεντεύξεων

Η Ροσάνακ (Ρο) Χουμανφάρ είναι η Αντιπρόεδρος προϊόντων μηχανικής μάθησης για την integrate.ai, μια εταιρεία που βοηθά τους προγραμματιστές να λύνουν τα πιο σημαντικά προβλήματα του κόσμου χωρίς να κινδυνεύουν τα ευαίσθητα δεδομένα. Η Ρο έχει ένα ιδιαίτερο ταλέντο να βρίσκει νέους τρόπους να απλοποιήσει σύνθετες έννοιες της τεχνητής νοημοσύνης και να τις συνδέει με τις ανάγκες των χρηστών. Εκμεταλλευόμενη αυτή την εμπειρία, βρίσκεται στην πρώτη γραμμή της αποστολής της integrate.ai να δημοκρατίσει την πρόσβαση στην τεχνολογία που ενισχύει την ιδιωτικότητα.

Τι σας έκανε να ενδιαφερθείτε αρχικά για την επιστήμη των δεδομένων και τη μηχανική μάθηση;

Ξεκίνησα το ταξίδι μου στη ρομποτική. Μετά από πειράματα με διάφορες γωνίες της ρομποτικής και αφού κάψαμε ένα εργαστήριο συγκόλλησης, κατέληξα στο συμπέρασμα ότι μου άρεσε περισσότερο η πλευρά της τεχνητής νοημοσύνης του πεδίου μου, και αυτό με οδήγησε στον υπέροχο κόσμο της μηχανικής μάθησης.

Μπορείτε να περιγράψετε το τρέχον ρόλο σας και τι μοιάζει μια μέση ημέρα για σας;

Είμαι η Αντιπρόεδρος Προϊόντων στην integrate.ai, μια εταιρεία SaaS που βοηθά τους προγραμματιστές να λύνουν τα πιο σημαντικά προβλήματα του κόσμου χωρίς να κινδυνεύουν τα ευαίσθητα δεδομένα. Κατασκευάζουμε εργαλεία για ασφαλή μηχανική μάθηση και ανάλυση για το κατανεμημένο μέλλον των δεδομένων.

Στην καθημερινή μου δουλειά, συνεργάζομαι με τις ομάδες μας σε διάφορες λειτουργίες για να επιτύχουμε τρία πράγματα:

Να σκεφτούμε το μέλλον της νοημοσύνης και πώς μπορούμε να το διαμορφώσουμε ώστε να λύσει τα πιο κρίσιμα προβλήματα

Να κατανοήσουμε τα προβλήματα των πελατών μας και πώς μπορούμε να καινοτομήσουμε για να κάνουμε τη δουλειά τους πιο αποτελεσματική.

Να βεβαιωθούμε ότι η όραμά μας και τα σχόλια των πελατών μας λαμβάνονται πάντα υπόψη στην ανάπτυξη προϊόντων, εργαζόμενη συνεργατικά με τις ομάδες μας για να παραδώσουμε τα καλύτερα χαρακτηριστικά.

Τα συνθετικά δεδομένα είναι σήμερα πολύ δημοφιλή στη μηχανική μάθηση, αλλά η integrate.ai ακολουθεί μια αντίθετη προσέγγιση. Ποια είναι κάποια εφαρμογές όπου τα συνθετικά δεδομένα μπορεί να μην είναι μια επιθυμητή επιλογή;

Για να κατανοήσουμε πότε τα συνθετικά δεδομένα δεν είναι η καλύτερη λύση, είναι σημαντικό πρώτα να κατανοήσουμε πότε είναι. Τα συνθετικά δεδομένα είναι καλύτερα όταν ο στόχος του μοντέλου έχει είτε μια μικρή ποσότητα πραγματικών δεδομένων διαθέσιμων ή καθόλου – για παράδειγμα, σε προβλήματα cold-start και εκπαίδευση μοντέλων κειμένου και εικόνας. Κάποιες φορές, απλά δεν υπάρχει αρκετό δεδομένο για να εκπαιδεύσει ένα μοντέλο, και αυτό είναι όταν τα συνθετικά δεδομένα αναδεικνύονται ως λύση.

Ωστόσο, τα συνθετικά δεδομένα χρησιμοποιούνται όλο και περισσότερο σε καταστάσεις όπου υπάρχει πολλά πραγματικά δεδομένα, αλλά αυτά τα δεδομένα είναι απομονωμένα λόγω κανονισμών ιδιωτικότητας, κόστους κεντρικοποίησης ή άλλων εμποδίων διαλειτουργικότητας. Αυτή είναι μια φανερή κακοποίηση των συνθετικών δεδομένων. Σε αυτές τις περιπτώσεις, είναι δύσκολο να καθορίσετε το σωστό επίπεδο αφαίρεσης για τη δημιουργία συνθετικών δεδομένων, με αποτέλεσμα χαμηλής ποιότητας συνθετικά δεδομένα που μπορούν να προκαλέσουν εγγενή προκατάληψη ή άλλα προβλήματα που είναι δύσκολο να διορθωθούν. Επιπλέον, τα μοντέλα που εκπαιδεύονται με συνθετικά δεδομένα δεν συγκρίνονται με αυτά που εκπαιδεύονται με πραγματικά, υψηλής ποιότητας, λεπτομερή δεδομένα.

Η Integrate.ai ειδικεύεται στην προσφορά λύσεων ομοσπονδιακής μάθησης, θα μπορούσατε να περιγράψετε τι είναι η ομοσπονδιακή μάθηση;

Στη παραδοσιακή μηχανική μάθηση, όλα τα δεδομένα εκπαίδευσης του μοντέλου πρέπει να κεντρίζονται σε μια βάση δεδομένων. Με την ομοσπονδιακή μάθηση, τα μοντέλα μπορούν να εκπαιδευτούν σε κατανεμημένα, απομονωμένα σύνολα δεδομένων – ή δεδομένα που κατοικούν σε δύο ή περισσότερες ξεχωριστές βάσεις δεδομένων και δεν μπορούν να μεταφερθούν εύκολα. Πώς λειτουργεί είναι ότι τμήματα ενός μοντέλου μηχανικής μάθησης εκπαιδεύονται όπου βρίσκεται το δεδομένο, και οι παράμετροι του μοντέλου μοιράζονται μεταξύ των συμμετεχόντων συνόλων δεδομένων για να παράγουν ένα βελτιωμένο παγκόσμιο μοντέλο. Και αφού δεν μεταφέρονται δεδομένα στο σύστημα, οι οργανισμοί μπορούν να εκπαιδεύσουν μοντέλα χωρίς εμπόδια όπως κανονισμοί ιδιωτικότητας, ασφάλειας, κόστους ή άλλων προβλημάτων κεντρικοποίησης.

Γενικά, τα δεδομένα που είναι προσβάσιμα με την ομοσπονδιακή μάθηση είναι πολύ υψηλότερης ποιότητας,επειδή τα κεντρισμένα δεδομένα τείνουν να χάνουν κάποια από την λεπτομέρεια τους για χάρη της ευκολίας πρόσβασης σε ένα σημείο.

Πώς μπορεί μια επιχείρηση να αναγνωρίσει τις καλύτερες περιπτώσεις χρήσης για την ομοσπονδιακή μάθηση;

Η ομοσπονδιακή μάθηση είναι μια τεχνολογία μηχανικής μάθησης που κατασκευάζεται για καταστάσεις όπου η πρόσβαση σε δεδομένα ή η μεταφορά τους στο παραδοσιακό υποδομή της μηχανικής μάθησης με κεντρισμένα λίμνες δεδομένων είναι δύσκολη. Αν βιώνετε ένα από τα ακόλουθα συμπτώματα, η ομοσπονδιακή μάθηση είναι για σας:

• Παρέχετε έξυπνα προϊόντα που τροφοδοτούνται από ανάλυση και μηχανική μάθηση και δεν μπορείτε να δημιουργήσετε δικτυακά αποτελέσματα για τα προϊόντα σας επειδή τα δεδομένα ανήκουν στους πελάτες σας.
• Εργάζεστε με μακρές συμφωνίες υπηρεσιών ή συμφωνίες διαμοιρασμού δεδομένων για να αποκτήσετε πρόσβαση σε δεδομένα από τους συνεργάτες σας.
• Δαπανείτε πολύ χρόνο για να διαμορφώσετε συμβάσεις συνεργασίας με τους συνεργάτες σας, ιδιαίτερα σε καταστάσεις όπου το αποτέλεσμα αυτής της συνεργασίας είναι ασαφές για σας.
• Κάθεστε σε ένα πλούσιο σύνολο δεδομένων και θέλετε να αποκομίσετε έσοδα από αυτό αλλά φοβάστε τις επιπτώσεις στην εικόνα σας.
• Αποκομίζετε ήδη έσοδα από τα δεδομένα σας αλλά δαπανείτε πολύ χρόνο, προσπάθεια και χρήματα για να τα κάνετε ασφαλή για να τα μοιραστείτε.
• Η υποδομή σας έχει μείνει πίσω κατά τη μεταφορά στο cloud, αλλά εξακολουθείτε να χρειάζεστε ανάλυση και μηχανική μάθηση.
• Έχετε πολλές θυγατρικές που ανήκουν στην ίδια οργάνωση αλλά δεν μπορούν να μοιραστούν απευθείας δεδομένα μεταξύ τους.
• Τα σύνολα δεδομένων που αντιμετωπίζετε είναι πολύ μεγάλα ή δαπανηρά για να μεταφερθούν, οπότε είχατε αποφασίσει να μην τα χρησιμοποιήσετε ή οι αγωγοί ETL σας κοστίζουν πολύ.
• Έχετε μια εφαρμογή ή ευκαιρία που πιστεύετε ότι μπορεί να έχει σημαντική επίδραση, αλλά δεν έχετε τα δεδομένα για να το κάνετε να συμβεί.
• Τα μοντέλα μηχανικής μάθησης σας έχουν φθάσει σε στασιμότητα απόδοσης και δεν ξέρετε πώς να τα βελτιώσετε περαιτέρω.

Η διαφορική ιδιωτικότητα χρησιμοποιείται συχνά σε συνδυασμό με την ομοσπονδιακή μάθηση, τι είναι αυτό συγκεκριμένα;

Η διαφορική ιδιωτικότητα είναι μια τεχνική για να διασφαλίσει την ιδιωτικότητα ενώ ταυτόχρονα αξιοποιεί τη δύναμη της μηχανικής μάθησης. Χρησιμοποιώντας διαφορετικά μαθηματικά από τις τυπικές τεχνικές απο-ταυτοποίησης, η διαφορική ιδιωτικότητα προσθέτει θόρυβο κατά τη διάρκεια της τοπικής εκπαίδευσης του μοντέλου, διατηρώντας τα περισσότερα στατιστικά χαρακτηριστικά του συνόλου δεδομένων ενώ περιορίζει τον κίνδυνο ότι τα δεδομένα ενός ατόμου θα αναγνωριστούν.

Σε ιδανικές εφαρμογές, η διαφορική ιδιωτικότητα φέρνει τον κίνδυνο κοντά στο μηδέν, ενώ τα μοντέλα μηχανικής μάθησης διατηρούν παρόμοια απόδοση– παρέχοντας όλες τις απαραίτητες ασφαλειές για την ιδιωτικότητα των δεδομένων, χωρίς να μειώνουν την ποιότητα των αποτελεσμάτων του μοντέλου.

Η διαφορική ιδιωτικότητα περιλαμβάνεται στην πλατφόρμα της integrate.ai από προεπιλογή, οπότε οι προγραμματιστές μπορούν να βεβαιωθούν ότι τα δεδομένα των ατόμων δεν μπορούν να αναγνωριστούν από τις παραμέτρους του μοντέλου τους.

Μπορείτε να περιγράψετε πώς λειτουργεί η πλατφόρμα ομοσπονδιακής μάθησης της integrate.ai;

Η πλατφόρμα μας αξιοποιεί την ομοσπονδιακή μάθηση και τη διαφορική ιδιωτικότητα για να ξεκλείσει μια σειρά από ικανότητες μηχανικής μάθησης και ανάλυσης σε δεδομένα που θα ήταν διαφορετικά δύσκολα ή αδύνατα να προσεγγισθούν λόγω προβλημάτων ιδιωτικότητας, εμπιστευτικότητας ή τεχνικών εμποδίων. Οι λειτουργίες όπως η εκπαίδευση μοντέλων και η ανάλυση πραγματοποιούνται τοπικά, και μόνο τα τελικά αποτελέσματα συλλέγονται με ασφαλή και εμπιστευτικό τρόπο.

Η integrate.ai είναι συσκευασμένη ως εργαλείο για προγραμματιστές, επιτρέποντας στους προγραμματιστές να ενσωματώσουν αυτές τις ικανότητες σε σχεδόν οποιαδήποτε λύση με ένα εύχρηστο SDK και μια υποστηρικτική υπηρεσία cloud για διαχείριση από άκρο σε άκρο. Μόλις η πλατφόρμα είναι ενσωματωμένη, οι τελικοί χρήστες μπορούν να συνεργαστούν σε ευαίσθητα σύνολα δεδομένων ενώ οι κηδεμόνες διατηρούν πλήρη έλεγχο. Οι λύσεις που ενσωματώνουν την integrate.ai μπορούν να χρησιμεύσουν ως εργαλεία πειραματισμού και υπηρεσίες παραγωγής.

Ποια είναι κάποια παραδείγματα πώς αυτή η πλατφόρμα μπορεί να χρησιμοποιηθεί σε διαγνωστικές εφαρμογές;

Ένα από τα δίκτυα των συνεργατών μας, η Autism Sharing Initiative, συλλέγει πληροφορίες σχετικές με τη διάγνωση του αυτισμού καθώς και δείγματα γονιδιακών δεδομένων για να κατανοήσει τις συνδέσεις των διαφορετικών γονότυπων και φαινοτύπων με τη διάγνωση του αυτισμού. Κάθε ξεχωριστό σημείο δεδομένων δεν έχει αρκετά δεδομένα για να κάνει τα μοντέλα μηχανικής μάθησης να λειτουργήσουν, αλλά συλλογικά δημιουργούν ένα σημαντικό μέγεθος δείγματος. Ωστόσο, η μεταφορά δεδομένων θέτει υψηλό κίνδυνο στην ασφάλεια και την ιδιωτικότητα, και λόγω κανονισμών και πολιτικών νοσοκομείων, αυτά τα ερευνητικά ιδρύματα έχουν πάντα προεπιλογή να μην μοιράζονται.

Σε ένα διαφορετικό δίκτυο, με μια παρόμοια ρύθμιση, ερευνητές ενδιαφέρονται να βελτιώσουν την ανάθεση κλινικών δοκιμών σε ασθενείς χρησιμοποιώντας μια πιο ολιστική άποψη της ιστορίας του κάθε ασθενή.

Τα διαφορετικά ερευνητικά ιδρύματα που συμμετέχουν έχουν πρόσβαση σε διαφορετικές πληροφορίες για κάθε ασθενή– ένα εργαστήριο έχει πρόσβαση στις ιατρικές του σάρωση, το άλλο εργαστήριο έχει πρόσβαση στις γονιδιακές του πληροφορίες, και ένα άλλο ινστιτούτο έχει τα αποτελέσματα των κλινικών δοκιμών του. Αλλά αυτά τα διαφορετικά ιδρύματα δεν μπορούν να μοιραστούν απευθείας πληροφορίες μεταξύ τους.

Με την λύση της integrate.ai, κάθε οργανισμός μπορεί να έχει πρόσβαση στα δεδομένα των άλλων για τους στόχους τους χωρίς να μεταφέρει τα δεδομένα μακριά από τους κηδεμόνες και επομένως να τηρεί τις εσωτερικές τους πολιτικές.

Μπορείτε να συζητήσετε τη σημασία της κατανοήσιμης ιδιωτικότητας και πώς η integrate.ai την ενεργοποιεί;

Η κατανοήσιμη ιδιωτικότητα σημαίνει ότι ανοίγει πολλές πόρτες σε επιχειρήσεις και οργανισμούς που ιστορικά ήταν κλειστοί λόγω της αμφίβολης φύσης του κινδύνου. Οι κανονισμοί ιδιωτικότητας όπως ο GDPR, ο CCPA και ο HIPPA είναι εξαιρετικά σύνθετοι και μπορούν να διαφέρουν ανάλογα με την βιομηχανία, την περιοχή και τον τύπο δεδομένων, καθιστώντας δύσκολο για τους οργανισμούς να καθορίσουν ποια δεδομένα προγράμματα είναι ασφαλή για την ιδιωτικότητα. Αντί να σπαταλήσετε χρόνο και ανθρώπινο δυναμικό για να ελέγξετε κάθε κουτί, η πλατφόρμα ομοσπονδιακής μάθησης της integrate.ai προσφέρει ενσωματωμένη διαφορική ιδιωτικότητα, ομομορφική κρυπτογράφηση και ασφαλή πολυμερή υπολογισμό, οπότε οι προγραμματιστές και οι κηδεμόνες δεδομένων μπορούν να αισθανθούν ασφαλείς γνωρίζοντας ότι τα προγράμματά τους θα συμμορφωθούν αυτόματα με τις κανονιστικές απαιτήσεις, χωρίς τη ταλαιπωρία της διέλευσης κάθε κατηγορηματικού κλοιού.

Υπάρχει κάτι άλλο που θα ήθελε να μοιραστείτε σχετικά με την integrate.ai;

Η λύση της integrate.ai είναι ένα εξαιρετικά φιλικό προς τους προγραμματιστές εργαλείο που επιτρέπει τη συμμόρφωση, την ιδιωτικότητα και την ασφάλεια της μηχανικής μάθησης και ανάλυσης σε ευαίσθητα δεδομένα. Μέσω απλών API, όλη ηπολυπλοκότητα της συμμόρφωσης με κανονισμούς και συμβάσεων σε ευαίσθητα δεδομένα είναι απομακρυσμένη. Η λύση της integrate.ai επιτρέπει στους επιστήμονες δεδομένων και τους προγραμματιστές να διαχειρίζονται τις εργασίες τους με ασφάλεια με ελάχιστη επίδραση στην τρέχουσα υποδομή και τις ροές εργασίας τους.

Ευχαριστούμε για τη μεγάλη συνέντευξη, οι αναγνώστες που επιθυμούν να μάθουν περισσότερα πρέπει να επισκεφθούν την integrate.ai.