Yotam Oren, CEO & Cofounder της Mona Labs – Σειρά Συνεντεύξεων

Ο Yotam Oren είναι ο CEO & Cofounder της Mona Labs, μια πλατφόρμα που επιτρέπει στις επιχειρήσεις να μετατρέψουν τις πρωτοβουλίες AI από πειραματικά εργαστήρια σε κλιμακωτές επιχειρηματικές λειτουργίες, κατανοώντας πραγματικά πώς συμπεριφέρονται τα μοντέλα ML στις πραγματικές επιχειρηματικές διαδικασίες και εφαρμογές.

Η Mona αναλύει αυτόματα τη συμπεριφορά των μοντέλων μηχανικής μάθησης σας σε προστατευμένα τμήματα δεδομένων και στο контέκστ των επιχειρηματικών λειτουργιών, για να ανιχνεύσει πιθανές προκαταλήψεις AI. Η Mona προσφέρει τη δυνατότητα να δημιουργήσετε πλήρεις αναφορές ισότητας που ανταποκρίνονται στα πρότυπα και τις κανονιστικές απαιτήσεις της βιομηχανίας, και να προσφέρετε εμπιστοσύνη ότι η εφαρμογή AI είναι συμμορφωμένη και ελεύθερη από προκαταλήψεις.

Τι σας έκανε να ενδιαφερθείτε αρχικά για την πληροφορική;

Η πληροφορική είναι ένας δημοφιλής επαγγελματικός δρόμος στην οικογένειά μου, οπότε ήταν πάντα στο πίσω μέρος του μυαλού μου ως ένα βιώσιμο επιλογή. Φυσικά, ο ισραηλινός πολιτισμός είναι πολύ προ-τεχνολογικός. Γελούν οι καινοτόμες τεχνολογίες και πάντα είχα την αντίληψη ότι η πληροφορική θα μου προσφέρει μια πίστα για ανάπτυξη και επιτευγματα.

Παρά το γεγονός ότι, αυτό έγινε προσωπική μου αγάπη μόνο όταν έφτασα στην ηλικία του πανεπιστημίου. Δεν ήμουν ένα από τα παιδιά που άρχισαν να προγραμματίζουν στο γυμνάσιο. Στην νεότητά μου, ήμουν πολύ απασχολημένος με το μπάσκετ για να προστεθεί στις υπολογιστές. Μετά το λύκειο, πέρασα σχεδόν 5 χρόνια στο στρατό, σε επιχειρησιακούς/μαχητικούς ρόλους. Έτσι, με έναν τρόπο, πραγματικά άρχισα να μαθαίνω για την πληροφορική μόνο όταν έπρεπε να επιλέξω einen ακαδημαϊκό τομέα στο πανεπιστήμιο. Τι έπιασε την προσοχή μου αμέσως ήταν ότι η πληροφορική συνδύαζε την επίλυση προβλημάτων και την εκμάθηση μιας γλώσσας (ή γλωσσών). Δύο πράγματα στα οποία ήμουν ιδιαίτερα ενδιαφερμένος. Από τότε, ήμουν εθισμένος.

Από το 2006 έως το 2008, εργαστήκατε στην χαρτογράφηση και πλοήγηση για μια μικρή εταιρεία, ποια ήταν κάποια από τα βασικά συμπεράσματά σας από αυτή την εποχή;

Ο ρόλος μου στην Telmap ήταν η κατασκευή ενός μηχανισμού αναζήτησης πάνω σε χάρτη και δεδομένα τοποθεσίας.

Αυτές ήταν οι πολύ πρώτες μέρες του «μεγάλου δεδομένου» στην επιχείρηση. Δεν το ονομάζαμε ακόμη έτσι, αλλά αποκτάζαμε τεράστιους συνόλους δεδομένων και προσπαθούσαμε να βγάλουμε τις πιο σημαντικές και σχετικές πληροφορίες για να τις δείξουμε στους τελικούς χρήστες.

Μια από τις εντυπωσιακές ανακαλύψεις που έκανα ήταν ότι οι εταιρείες (συμπεριλαμβανομένης και της δικής μας) χρησιμοποιούσαν τόσο λίγο από τα δεδομένα τους (αλλά και τα δημόσια διαθέσιμα εξωτερικά δεδομένα). Υπήρχε τόσο μεγάλος potenzial για νέες πληροφορίες, καλύτερες διαδικασίες και εμπειρίες.

Το άλλο συμπέρασμα ήταν ότι η δυνατότητα να αποκτήσουμε περισσότερα από τα δεδομένα μας εξαρτιόταν, φυσικά, από το να έχουμε καλύτερες αρχιτεκτονικές, καλύτερη υποδομή και così.

Μπορείτε να μοιραστείτε την ιστορία της Mona Labs;

Οι τρεις από εμάς, συνιδρυτές, έχουμε περάσει όλη μας την καριέρα γύρω από προϊόντα δεδομένων.

Ο Nemo, ο τεχνικός διευθυντής, είναι ο φίλος μου από το κολέγιο και ο συμφοιτητής μου, και ένας από τους πρώτους υπαλλήλους της Google (GOOGL ) Tel Aviv. Ξεκίνησε ένα προϊόν εκεί που ονομάζεται Google Trends, το οποίο είχε πολλές προηγμένες αναλύσεις και μηχανική μάθηση βασισμένες σε δεδομένα αναζήτησης. Ο Itai, ο άλλος συνιδρυτής και προϊστάμενος προϊόντων, ήταν στην ομάδα του Nemo στη Google (και τον γνώρισα μέσω του Nemo). Οι δύο τους ήταν πάντα απογοητευμένοι ότι τα συστήματα AI weren’t εποπτεύονταν μετά την αρχική ανάπτυξη και δοκιμή. Παρά τη δυσκολία να δοκιμάσουν σωστά αυτά τα συστήματα πριν από την παραγωγή, οι ομάδες δεν ήξεραν πώς καλά λειτουργούσαν τα προβλεπτικά μοντέλα τους με την πάροδο του χρόνου. Επιπλέον, φαινόταν ότι η μόνη φορά που θα ακούγαν οποιαδήποτε ανατροφοδότηση για τα συστήματα AI ήταν όταν τα πράγματα πήγαιναν καλά και η ομάδα ανάπτυξης καλούνταν για μια «πυροσβεστική» για να διορθώσει καταστροφικά προβλήματα.

Στην ίδια περίπτωση, ήμουν συμβουλος στην McKinsey & Co, και ένα από τα μεγαλύτερα εμπόδια που είδα για τα προγράμματα AI και Big Data να κλιμακωθούν σε μεγάλες επιχειρήσεις ήταν η έλλειψη εμπιστοσύνης που είχαν οι επιχειρηματικοί ενδιαφερόμενοι σε αυτά τα προγράμματα.

Το κοινό νήμα εδώ έγινε σαφές για τον Nemo, τον Itai και εμένα στις συνομιλίες. Η βιομηχανία χρειαζόταν την υποδομή για να εποπτεύει τα συστήματα AI/ML στην παραγωγή. Έχουμε την όραση να προσφέρουμε αυτή την ορατότητα για να αυξήσουμε την εμπιστοσύνη των επιχειρηματικών ενδιαφερόμενων και να επιτρέψουμε στις ομάδες AI να έχουν πάντα τον έλεγχο του πώς λειτουργούν τα συστήματά τους και να επαναλάβουν πιο αποτελεσματικά.

Και αυτό είναι όταν ιδρύθηκε η Mona.

Τι είναι κάποια από τα τρέχοντα προβλήματα με την έλλειψη διαφάνειας AI;

Σε πολλές βιομηχανίες, οι οργανισμοί έχουν ήδη δαπανήσει δεκάδες εκατομμύρια δολάρια στα προγράμματα AI τους και έχουν δει κάποια αρχική επιτυχία στο εργαστήριο και σε μικρές κλίμακες αναπτύξεων. Αλλά η κλιμάκωση, η επίτευξη ευρείας υιοθέτησης και η απόκτηση της επιχείρησης για να βασιστεί πραγματικά στο AI έχει sido ένα τεράστιο πρόβλημα για σχεδόν όλους.

Γιατί συμβαίνει αυτό; Ξεκινά με το γεγονός ότι η μεγάλη έρευνα δεν μεταφράζεται αυτόματα σε μεγάλα προϊόντα (ένας πελάτης μας είπε, «Τα μοντέλα ML είναι σαν αυτοκίνητα, την στιγμή που βγάζουν από το εργαστήριο, χάνουν 20% της αξίας τους»). Τα μεγάλα προϊόντα έχουν υποστηρικτικά συστήματα. Υπάρχουν εργαλεία και διαδικασίες για να διασφαλίσουν ότι η ποιότητα διατηρείται με την πάροδο του χρόνου και ότι τα προβλήματα ανιχνεύονται νωρίς και αντιμετωπίζονται αποτελεσματικά. Τα μεγάλα προϊόντα έχουν επίσης einen συνεχές κύκλο ανατροφοδότησης, έχουν einen κύκλο βελτίωσης και einen χάρτη. Συνεπώς, τα μεγάλα προϊόντα απαιτούν βαθιά και συνεχής διαφάνεια απόδοσης.

Όταν υπάρχει έλλειψη διαφάνειας, τελικά καταλήγεις με:

• Προβλήματα που παραμένουν κρυφά για κάποιο χρονικό διάστημα και μετά εκρήγνυνται στην επιφάνεια προκαλώντας «πυροσβεστικές»
• Μακρές και χειροκίνητες έρευνες και μετριάσεις
• Ένα πρόγραμμα AI που δεν εμπιστεύεται οι επιχειρηματικοί χρήστες και χορηγοί και τελικά αποτυγχάνει να κλιμακωθεί

Τι είναι κάποια από τα προβλήματα πίσω από την καθιστά τα προβλεπτικά μοντέλα διαφανή και αξιόπιστα;

Η διαφάνεια είναι ένας σημαντικός παράγοντας για την επίτευξη εμπιστοσύνης, φυσικά. Η διαφάνεια μπορεί να έρθει σε πολλές μορφές. Υπάρχει η διαφάνεια της單ικής πρόβλεψης που μπορεί να περιλαμβάνει την εμφάνιση του επιπέδου εμπιστοσύνης στον χρήστη ή την παροχή μιας εξήγησης/λογικής για την πρόβλεψη. Η διαφάνεια της單ικής πρόβλεψης είναι κυρίως αποσκοπεί στο να βοηθήσει τον χρήστη να γίνει άνετος με την πρόβλεψη. Και τότε, υπάρχει η γενική διαφάνεια που μπορεί να περιλαμβάνει πληροφορίες σχετικά με την ακρίβεια πρόβλεψης, απροσδόκητα αποτελέσματα και πιθανά προβλήματα. Η γενική διαφάνεια χρειάζεται από την ομάδα AI.

Το πιο δύσκολο μέρος της γενικής διαφάνειας είναι η ανίχνευση προβλημάτων νωρίς, η ειδοποίηση του σχετικού μέλους της ομάδας ώστε να μπορέσει να λάβει διορθωτικά μέτρα πριν από την εκδήλωση καταστροφών.

Γιατί είναι δύσκολο να ανιχνεύσετε προβλήματα νωρίς:

• Τα προβλήματα συχνά αρχίζουν μικρά και βράζουν, πριν τελικά εκραγούν στην επιφάνεια.
• Τα προβλήματα συχνά αρχίζουν λόγω ανεξέλεγκτων ή εξωτερικών παραγόντων, όπως πηγές δεδομένων.
• Υπάρχουν πολλοί τρόποι για να «διαιρέσετε τον κόσμο» και η εξαντλητική αναζήτηση προβλημάτων σε μικρές τσέπες μπορεί να οδηγήσει σε πολλά θορύβους (κόπωση ενημερώσεων), τουλάχιστον όταν αυτό γίνεται με μια αφελή προσέγγιση.

Ένα άλλο δύσκολο аспέκτ της παροχής διαφάνειας είναι η τεράστια εξάπλωση των περιπτώσεων χρήσης AI. Αυτό κάνει μια προσέγγιση «ένα μέγεθος για όλους» σχεδόν αδύνατη. Κάθε περίπτωση χρήσης AI μπορεί να περιλαμβάνει διαφορετικές δομές δεδομένων, διαφορετικές επιχειρηματικές κύκλους, διαφορετικά μετρικά επιτυχίας και συχνά διαφορετικές τεχνικές προσεγγίσεις και ακόμη και στοίβες.

Έτσι, είναι ένα τεράστιο έργο, αλλά η διαφάνεια είναι τόσο θεμελιώδους σημασίας για την επιτυχία των προγραμμάτων AI, οπότε πρέπει να το κάνετε.

Μπορείτε να μοιραστείτε κάποια λεπτομέρειες για τις λύσεις για τα μοντέλα NLU / NLP και τα chatbots;

Η συνομιλητική AI είναι ένας από τους βασικούς κατακόρυφους της Mona. Είμαστε υπερήφανοι που υποστηρίζουμε καινοτόμες εταιρείες με μια ευρεία γκάμα περιπτώσεων χρήσης συνομιλητικής AI, συμπεριλαμβανομένων μοντέλων γλώσσας, chatbots και πολλά άλλα.

Ένας κοινός παράγοντας σε όλες τις περιπτώσεις χρήσης είναι ότι τα μοντέλα λειτουργούν κοντά (και đôi veces ορατά) στους πελάτες, οπότε ο κίνδυνος ασυνέπειας ή κακής συμπεριφοράς είναι υψηλότερος. Γίνεται τόσο σημαντικό για τις ομάδες συνομιλητικής AI να κατανοήσουν τη συμπεριφορά του συστήματος σε ένα λεπτομερές επίπεδο, το οποίο είναι ένας τομέας ισχύος της λύσης εποπτείας της Mona.

Τι κάνει η λύση της Mona που είναι khá μοναδικό είναι η συστηματική διέλευση ομάδων συνομιλιών και η ανίχνευση τσεπών στους οποίους τα μοντέλα (ή τα bots) συμπεριφέρονται κακώς. Αυτό επιτρέπει στις ομάδες συνομιλητικής AI να αναγνωρίσουν προβλήματα νωρίς και πριν οι πελάτες τα παρατηρήσουν. Αυτή η ικανότητα είναι ένας κρίσιμος οδηγός για τις ομάδες συνομιλητικής AI όταν επιλέγουν λύσεις εποπτείας.

Για να το συνοψίσω, η Mona προσφέρει μια ολοκληρωμένη λύση για την εποπτεία συνομιλητικής AI. Ξεκινά με την εξασφάλιση ότι υπάρχει μια seule πηγή πληροφοριών για τη συμπεριφορά του συστήματος με την πάροδο του χρόνου και συνεχίζει με την συνεχής παρακολούθηση των δεικτών απόδοσης και των προληπτικών ερευνών για τσεπές κακής συμπεριφοράς – επιτρέποντας στις ομάδες να λάβουν προληπτικά, αποτελεσματικά διορθωτικά μέτρα.

Μπορείτε να προσφέρετε κάποια λεπτομέρειες για τον κινητήρα ερευνών της Mona;

Βέβαια. Ας αρχίσουμε με την мотивασία. Ο στόχος του κινητήρα ερευνών είναι να αναδύσει ανωμαλίες στους χρήστες, με ακριβώς το σωστό ποσό контекστοποιημένης πληροφοριών και χωρίς να δημιουργήσει θόρυβο ή να οδηγήσει σε κόπωση ενημερώσεων.

Ο κινητήρας ερευνών είναι μια μοναδική αναλυτική ροή εργασίας. Σε αυτή τη ροή εργασίας, ο κινητήρας αναζητά ανωμαλίες σε όλα τα τμήματα των δεδομένων, επιτρέποντας την πρώιμη ανίχνευση προβλημάτων όταν είναι ακόμη «μικρά» και πριν επηρεάσουν το σύνολο του συνόλου δεδομένων και των επιχειρηματικών KPI. Στη συνέχεια, χρησιμοποιεί einen ιδιοκτητικό αλγόριθμο για να ανιχνεύσει τις ρίζες των αιτιών των ανωμαλιών και να διασφαλίσει ότι κάθε ανωμαλία ειδοποιείται μόνο μια φορά, ώστε να αποφευχθεί ο θόρυβος. Οι τύποι ανωμαλιών που υποστηρίζονται περιλαμβάνουν: ανωμαλίες σειρών χρόνου, διακυμάνσεις, εκκεντρικά και υποβάθμιση μοντέλων.

Ο κινητήρας ερευνών είναι高度 قابل για προσαρμογή μέσω της διεπαφής no-code/low-code της Mona. Η προσαρμογή του κινητήρα κάνει τη Mona τη πιο ευέλικτη λύση στην αγορά, καλύπτοντας eine ευρεία γκάμα περιπτώσεων χρήσης (π.χ. batch και streaming, με/χωρίς επιχειρηματική ανατροφοδότηση / ground truth, σε διαφορετικές εκδόσεις μοντέλων ή μεταξύ εκπαίδευσης και inference, και πολλά άλλα).

Τέλος, αυτός ο κινητήρας ερευνών υποστηρίζεται από einen.visualization πίνακα, στον οποίο οι έρευνες μπορούν να προβληθούν, και einen σύνολο εργαλείων έρευνας για να επιτρέψουν την ανάλυση αιτιών και περαιτέρω εξέταση της контεκστοποιημένης πληροφοριών. Ο κινητήρας ερευνών είναι επίσης πλήρως ολοκληρωμένος με einen μηχανισμό ειδοποίησης που επιτρέπει την τροφοδότηση ερευνών στους δικούς σας χώρους εργασίας, συμπεριλαμβανομένων email, πλατφόρμων συνεργασίας και così.

Στις 31 Ιανουαρίου, η Mona παρουσίασε τη νέα της λύση για την αιτιότητα AI, μπορείτε να μοιραστείτε μαζί μας λεπτομέρειες για αυτή τη λειτουργία και γιατί έχει σημασία;

Η αιτιότητα AI είναι για να διασφαλίσετε ότι οι αλγόριθμοι και τα συστήματα AI γενικά λαμβάνουν αμερόληπτες και ισότιμες αποφάσεις. Η αντιμετώπιση και η πρόληψη των προκαταλήψεων στα συστήματα AI είναι κρίσιμη, καθώς μπορούν να οδηγήσουν σε σημαντικές πραγματικές συνέπειες. Με την αυξανόμενη προεξοχή του AI, η επίδραση στις καθημερινές ζωές θα είναι ορατή σε περισσότερες και περισσότερες τοποθεσίες, συμπεριλαμβανομένης της αυτοματοποίησης της οδήγησης, της ανίχνευσης ασθενειών με μεγαλύτερη ακρίβεια, της βελτίωσης της κατανόησής μας για τον κόσμο και ακόμη και της δημιουργίας τέχνης. Αν δεν μπορούμε να εμπιστευθούμε ότι είναι δίκαιο και αμερόληπτο, πώς θα επιτρέψουμε να συνεχίσει να εξαπλώνεται;

Μια από τις κύριες αιτίες προκαταλήψεων στα συστήματα AI είναι απλώς η ικανότητα των δεδομένων εκπαίδευσης μοντέλων να αντιπροσωπεύουν τον πραγματικό κόσμο σε πλήρη. Αυτό μπορεί να προέρχεται από ιστορική διάκριση, υπο-αντιπροσώπευση ορισμένων ομάδων ή ακόμη και εσκεμμένη χειραγώγηση δεδομένων. Για παράδειγμα, ένα σύστημα αναγνώρισης προσώπου που εκπαιδεύτηκε σε δεδομένα κυρίως ανοιχτόχρωμων ατόμων είναι πιθανό να έχει υψηλότερο ποσοστό λάθους στην αναγνώριση ατόμων με σκουρόχρωμα δέρματα. Παρόμοια, ένα μοντέλο γλώσσας που εκπαιδεύτηκε σε δεδομένα κειμένου από một στενό σύνολο πηγών μπορεί να αναπτύξει προκαταλήψεις αν τα δεδομένα είναι προκατειλημμένα προς ορισμένες απόψεις, σε θέματα όπως η θρησκεία, ο πολιτισμός και così.

Η λύση αιτιότητας της Mona δίνει στις ομάδες AI και επιχειρήσεων την εμπιστοσύνη ότι το AI τους είναι ελεύθερο από προκαταλήψεις. Σε ρυθμιζόμενους τομείς, η λύση της Mona μπορεί να προετοιμάσει τις ομάδες για την ετοιμότητα συμμόρφωσης.

Η λύση αιτιότητας της Mona είναι đặc biệtη επειδή βρίσκεται στη πλατφόρμα Mona – μια γέφυρα μεταξύ δεδομένων AI και μοντέλων και των πραγματικών επιπτώσεων τους στην παραγωγή. Η Mona εξετάζει όλα τα τμήματα της επιχειρηματικής διαδικασίας που το μοντέλο AI εξυπηρετεί στην παραγωγή, για να συσχετίσει τα δεδομένα εκπαίδευσης, τη συμπεριφορά του μοντέλου και τις πραγματικές επιπτώσεις στον κόσμο για να προσφέρει την πιο ολοκληρωμένη αξιολόγηση της αιτιότητας.

Δεύτερον, έχει einen μοναδικό αναλυτικό κινητήρα που επιτρέπει την ευέλικτη διαίρεση των δεδομένων για τον έλεγχο των σχετικών παραμέτρων. Αυτό επιτρέπει ακριβείς συσχετίσεις αξιολογήσεων στο σωστό контέκστ, αποφεύγοντας το Simpson’s Paradox και παρέχοντας einen βαθύ πραγματικό «σκόρ προκαταλήψεων» για κάθε μετρητή απόδοσης και για κάθε προστατευμένο χαρακτηριστικό.

Συνολικά, θα έλεγα ότι η Mona είναι ένα θεμελιώδες στοιχείο για τις ομάδες που πρέπει να χτίσουν και να κλιμακώσουν υπεύθυνους AI.

Τι είναι η όρασή σας για το μέλλον του AI;

Αυτό είναι ένα μεγάλο ερώτημα.

Νομίζω ότι είναι εύκολο να προβλέψουμε ότι το AI θα συνεχίσει να αυξάνεται σε χρήση και επιρροή σε διάφορους βιομηχανικούς τομείς και πτυχές της ζωής των ανθρώπων. Ωστόσο, είναι δύσκολο να ληφθεί σοβαρά μια όραση που είναι λεπτομερής και που προσπαθεί να καλύψει όλες τις περιπτώσεις χρήσης και τις επιπτώσεις του AI στο μέλλον. Διότι κανείς δεν ξέρει αρκετά για να ζωγραφίσει αυτό το πορτρέτο αξιοπιστίας.

Αυτό που ξέρουμε βέβαια είναι ότι το AI θα είναι στα χέρια περισσότερων ανθρώπων και θα εξυπηρετεί περισσότερους σκοπούς. Η ανάγκη για διακυβέρνηση και διαφάνεια θα αυξηθεί σημαντικά.

Η πραγματική ορατότητα στο AI και πώς λειτουργεί θα παίξει δύο πρωταρχικούς ρόλους. Πρώτον, θα βοηθήσει να εγκαταστήσει την εμπιστοσύνη στους ανθρώπους και να ανυψώσει τους φραγμούς αντίστασης για ταχύτερη υιοθέτηση. Δεύτερον, θα βοηθήσει όποιος λειτουργεί το AI να διασφαλίσει ότι δεν βγάζει από τα χέρια.

Ευχαριστώ πολύ για τη μεγάλη συνέντευξη, οι αναγνώστες που επιθυμούν να μάθουν περισσότερα πρέπει να επισκεφθούν Mona Labs.