Chester Leung, Συνιδρυτής και Διευθυντής Πλατφόρμας AI στην OPAQUE – Σειρά Συνεντεύξεων

Chester Leung είναι Συνιδρυτής και Διευθυντής Αρχιτεκτονικής Πλατφόρμας στην OPAQUE, μια εταιρεία Series A που κατασκευάζει την εμπιστευτική πλατφόρμα δεδομένων και AI που ενδυναμώνει τις ομάδες να επεκτείνουν τις πipelines δεδομένων επιχείρησης με ένα εμπιστευτικό επίπεδο, επιτρέποντας ταχύτερες επιλύσεις με λιγότερη προσπάθεια και ελέγξιμη ιδιωτικότητα και έλεγχο.

Προηγουμένως, ο Chester ήταν φοιτητής υποψήφιος διδάκτωρ στο τμήμα επιστημών υπολογιστών στο UC Berkeley, όπου δημοσίευσε επιστημονικές εργασίες σε κορυφαίες конференσίες και επίσης υπηρέτησε ως αρχικός συντηρητής του ανοικτού κώδικα MC2 για την ασφαλή συνεργατική ανάλυση και μηχανική μάθηση.

Συνίδρυσε την Opaque μετά την περίοδο σας στο RISELab του UC Berkeley, όπου η δουλειά σας γέμισε το κενό μεταξύ AI και ασφαλών συστημάτων. Ποιο συγκεκριμένο κενό στην υποδομή δεδομένων επιχείρησης είδετε που οδήγησε στη δημιουργία της OPAQUE, και πώς η ακαδημαϊκή σας εμπειρία ενημέρωσε την κατεύθυνση της εταιρείας;

Την εποχή εκείνη, υπήρχε μια τεράστια εστίαση, τόσο στην ακαδημία όσο και στη βιομηχανία, στην αξιοποίηση της μηχανικής μάθησης για συγκεκριμένες περιπτώσεις χρήσης. Στο εργαστήριο, είχαμε την τύχη να έχουμε μεγάλους χορηγούς επιχείρησης που μας βοήθησαν ερευνητές να διαμορφώσουμε τη δουλειά μας για να λύσουμε πιο επείγουσες προβλήματα που αντιμετώπιζαν οι οργανισμοί τους. Η ομάδα μας, συγκεκριμένα, είχε μια μοναδική ευκαιρία να συνεργαστεί στενά με εταιρείες τεχνολογίας και τραπεζών, χρηματοοικονομικών υπηρεσιών και ασφαλειών (BFSI), συνεργαζόμενη για να λύσει σκληρά προβλήματα ιδιωτικότητας γύρω από τη χρήση ευαίσθητων αλλά πολύτιμων δεδομένων για μηχανική μάθηση. Όπως και όλες οι περιοχές της AI, η μηχανική μάθηση βασίζεται σε μεγάλες ποσότητες υψηλής ποιότητας δεδομένων για να παράγει πολύτιμες και robust επιλύσεις.

Συνάντησα το ίδιο μοτίβο επανειλημμένα ενώ συνεργαζόμουν με ομάδες από εταιρείες όπως η Amazon (AMZN ), η Scotiabank και η Ant Group (τότε Ant Financial): τα projects μηχανικής μάθησης τους σταμάτησαν πριν φτάσουν στην παραγωγή λόγω ανησυχιών για τη χρήση ευαίσθητων αλλά κρίσιμων δεδομένων για αυτές τις περιπτώσεις χρήσης. Με άλλα λόγια, αυτές οι ομάδες δεν μπορούσαν να χρησιμοποιήσουν την AI σε projects που ήξεραν ότι θα μπορούσαν να παράγουν αξία για την εταιρεία, όχι λόγω ενός τεχνικού προβλήματος με την AI, αλλά επειδή δεν μπορούσαν να αποκτήσουν πρόσβαση στα σωστά δεδομένα.

Στην Opaque, λύσαμε ένα identical πρόβλημα. Βοηθώντας τις ομάδες να αποκτήσουν πρόσβαση στα σωστά δεδομένα, επιτρέποντας τους να ξεκλειδώσουν ή να πουλήσουν τις ικανότητές τους AI. Η μόνη αλλαγή από τις ημέρες της έρευνάς μας έχει sido η επείγουσας του προβλήματος: τώρα βλέπουμε συνεχώς την υιοθέτηση και την ενσωμάτωση της AI, η οποία συνεχίζει να είναι στρατηγική προτεραιότητα για την εταιρεία.

Σε ένα τοπίο όπου οι επιχειρήσεις επενδύουν πολύ σε μοντέλα συλλογισμού και αυτονομούς AI, γιατί πιστεύετε ότι οι ασφαλείς πipelines δεδομένων είναι πιο σημαντικές από ποτέ;

Οι ασφαλείς πipelines δεδομένων είναι η σπονδυλική στήλη πάνω στην οποία οι επιχειρήσεις κατασκευάζουν μοντέλα συλλογισμού και αυτονομούς AI. Όλα, από την εκπαίδευση αυτών των μοντέλων συλλογισμού μέχρι την ανάπτυξη αυτονομών AI,涉ουν ευαίσθητα δεδομένα και βασίζονται σε ασφαλείς πipelines δεδομένων.

Για παράδειγμα, βλέπουμε τώρα ως βιομηχανία μια αυξανόμενη επένδυση στην παραγωγή υψηλής ποιότητας δεδομένων για την εκπαίδευση αυτών των μοντέλων. Κάποιες αναφορές έχουν προβλέψει ότι η επένδυση σε υψηλής ποιότητας δεδομένα θα είναι σύντομα μεγαλύτερη από την επένδυση στην εκπαίδευση των μοντέλων selbst. Φυσικά, η παραγωγή δεδομένων είναι μια πολυστάθμη διαδικασία που τροφοδοτείται από πipelines που παράγουν το πιο πολύτιμο IP μιας εταιρείας: υψηλής ποιότητας, domain-ειδικά δεδομένα που μπορούν να εκπαιδεύσουν μοντέλα που παράγουν τεράστια αξία downstream. Η επένδυση στην παραγωγή αυτών των δεδομένων είναι τεράστια, και τα παραγόμενα δεδομένα, λόγω της προέλευσής τους, διακρίνουν μια εταιρεία από τους ανταγωνιστές της, λειτουργώντας ως το φράγμα της. Μια εταιρεία πρέπει να κάνει ό,τι μπορεί για να giữσει αυτήν την πipeline ασφαλή.

Η εμπιστευτική πλατφόρμα υπολογισμών της OPAQUE επιτρέπει την ανάλυση σε κρυπτογραφημένα δεδομένα. Ποια είναι τα βασικά τεχνικά προβλήματα στη διευκόλυνση της κλιμάκωσης και της φιλικότητας προς τους dévelopers για περιβάλλοντα επιχείρησης;

Η εμπιστευτική πλατφόρμα AI μας δεν μόνο επιτρέπει την ανάλυση, τη μηχανική μάθηση και τη γεννήτρια AI σε κρυπτογραφημένα δεδομένα, αλλά επίσης παρέχει ελέγξιμη απόδειξη ότι τα δεδομένα σας χρησιμοποιήθηκαν με τον τρόπο που μόνο εσείς περιμένετε και επιτρέπετε.

Τα βασικά προβλήματα, με τη κλιμάκωση, την ανάπτυξη και τη διαχείριση, έγκεινται στη διευκόλυνση της ορχήστρασης του workload ασφαλή και ελέγξιμη σε κλίμακα. Συγκεκριμένα, πολλές εταιρείες αυτές τις μέρες χρησιμοποιούν διαχειριζόμενες υπηρεσίες cloud όταν χρειάζονται να κλιμακώσουν. Αυτό μπορεί να είναι και οικονομικό και βολικό. Ωστόσο, ένα υποσύνολο του λογισμικού που τροφοδοτεί τις διαχειριζόμενες υπηρεσίες cloud είναι εγγενώς, καλά, διαχειριζόμενο από τον πάροχο cloud. Έτσι, το πρόβλημα γίνεται, πώς μπορεί μια οργάνωση να ασφαλίσει και να ελέγξει τον λογισμικό που δεν ελέγχεται από αυτήν; Αν η οργάνωση αναλάβει τον έλεγχο του λογισμικού, τι πρέπει να θυσιάσει για να μην χρησιμοποιήσει μια διαχειριζόμενη υπηρεσία, και τι χάνει με αυτό;

Έχετε πει ότι η ασφαλής αρχιτεκτονική μπορεί να παρέχει μια μακροχρόνια ανταγωνιστική優勢. Μπορείτε να διευκρινίσετε πώς αυτό το principio Applies πρακτικά για τις ομάδες AI επιχείρησης;

Υπάρχουν δύο γωνίες να κοιτάξετε αυτό: μια γωνία προϊόντος και μια γωνία μηχανικής.

Από μια γωνία προϊόντος, όλοι καταλαβαίνουν ότι τα δεδομένα τους είναι ραδιενεργά, το φράγμα τους, ή και τα δύο. Οι εταιρείες γίνονται ολοένα και πιο ώριμες στην αξιολόγηση των λύσεων για την ιδιωτικότητα, την ασφάλεια και την κυριαρχία των δεδομένων. Συνεπώς, οποιαδήποτε ομάδα που κατασκευάζει οποιοδήποτε προϊόν που επεξεργάζεται δεδομένα επιχείρησης πρέπει να παρέχει εγγυήσεις ότι τα δεδομένα που επεξεργάζονται είναι ορατά και χρησιμοποιούνται μόνο από τους εξουσιοδοτημένους φορείς και οντότητες. Μια ασφαλής αρχιτεκτονική παρέχει εμπιστοσύνη ότι η ιδιωτικότητα, η ασφάλεια και η κυριαρχία των δεδομένων ήταν πρώτης τάξης σκέψεις στη σχεδίαση του προϊόντος και επιτρέπει στο προϊόν να παρέχει αυτές τις εγγυήσεις.

Από μια γωνία μηχανικής, μια ασφαλής αρχιτεκτονική είναι πιο επεκτάσιμη και ασφαλής για το μέλλον. Οι νομικές, οι ομάδες κινδύνου και συμμόρφωσης γίνονται ολοένα και πιο αυστηρές ως απάντηση σε νέους κινδύνους και κανονισμούς. Έτσι, οι οργανισμοί μηχανικής πρέπει να θέλουν να κατασκευάσουν ένα ασφαλές σύστημα AI επιχείρησης από την αρχή, ώστε να μην χρειαστεί να ξανασχεδιάσουν και/ή να επιδιορθώσουν το σύστημά τους όταν συνειδητοποιήσουν ότι το υπάρχον σύστημά τους είναι ανεπαρκές και μη ασφαλές. Το να ξανασχεδιάσουν και να επιδιορθώσουν κοστίζει μήνες, αν όχι χρόνια, πολύτιμου bandwidth μηχανικής.

Όπως εξελίσσονται τα αυτονομικά συστήματα AI, πώς πρέπει οι οργανισμοί να ξανασκέφτουν το ρόλο των δεδομένων -πέρα από ένα ресурс- ως ένα αμυντικό φράγμα;

Υπάρχει μια αυξανόμενη συναίνεση στη βιομηχανία ότι τα δεδομένα μπορεί να είναι το μόνο φράγμα που έχει μια οργάνωση. Βλέπουμε έρευνα και μηχανική ταλέντο, και τις θαυμάσιες τεχνολογίες και προϊόντα που τις κατασκευάζουν, να πηδούν από οργάνωση σε οργάνωση. Jako αποτέλεσμα, πολλές οργανώσεις είναι σε θέση να προσφέρουν τα ίδια προϊόντα, υποστηριζόμενα από τις ίδιες τεχνολογίες.

Τι δεν μπορεί εύκολα να μεταφερθεί από οργάνωση σε οργάνωση, Tuy nhiên, είναι τα δεδομένα μιας οργάνωσης – εκτός αν διαρρεύσει. Επιπλέον, είναι ακριβώς αυτά τα δεδομένα που μπορούν να κάνουν ένα προϊόν πιο ελκυστικό από τους ανταγωνιστές του – πιο προσωποποιημένο, προσαρμοσμένο και domain-ειδικό. Οι οργανισμοί πρέπει να κάνουν ό,τι μπορούν για να ασφαλίσουν τα δεδομένα τους, επιτρέποντάς τους να αξιοποιήσουν τα δεδομένα τους ως το ανταγωνιστικό πλεονέκτημα.

Τι είναι μια ανθεκτική πipeline AI στην πράξη, και πώς βοηθά τις εταιρείες να αποφύγουν κρυφά κόστη ή κινδύνους καθώς κλιμακώνουν τις αναπτύξεις AI τους;

Μια ανθεκτική πipeline AI είναι αυτή που είναι αξιόπιστη, ανθεκτική σε σφάλματα, αλλά πιο σημαντικά, ελέγξιμα ασφαλής στο σύνολό της. Πριν από την επεξεργασία, οι εταιρείες πρέπει να ελέγξουν και τα δεδομένα που εισέρχονται στην πipeline, καθώς και την πipeline herself, για να διασφαλίσουν ότι δεν υπάρχει πιθανότητα η πipeline να καταχράσει τα δεδομένα. Κατά τη διάρκεια της επεξεργασίας, η πipeline AI πρέπει να είναι αδιατάρακτη, για να διασφαλιστεί ότι κανείς δεν μπορεί να κλέψει οποιαδήποτε δεδομένα που επεξεργάζεται ή να στρίψει τις επιλύσεις που παρέχει. Μετά την επεξεργασία, η πipeline AI πρέπει να είναι ελέγξιμα auditable, ώστε μια ομάδα να μπορεί να παρατηρήσει και να εξηγήσει την λήψη αποφάσεων και την πορεία της πipeline AI, και ώστε μια ομάδα να μπορεί να δει τι πήγε λάθος όταν κάτι πήγε λάθος.

Ποια είναι τα κρυφά κόστη ή κινδύνους που αναδύονται γύρω από τις πipelines AI και τη διαμοίραση δεδομένων που οι ηγέτες επιχείρησης μπορεί να μην εκτιμούν πλήρως;

Τι βλέπουμε σε αυτήν την gold rush των αυτονομικών AI είναι μια τυφλή επείγουσας ανάγκη για την ανάπτυξη αυτονομών AI που αλληλεπιδρούν με διάφορα συστήματα εγγραφής. Ενώ αυτά τα agents μπορούν να προσφέρουν αξία, επίσης θέτουν τεράστιους κινδύνους επειδή αγγίζουν τόσο πολλά συστήματα με πολύτιμα δεδομένα. Τα agents είναι εγγενώς μη детерμινιστικά, και έχουμε δει αμέτρητα περιπτώσεις όπου πηγαίνουν και κάνουν κάτι που δεν περιμένουμε. Σε ένα κόσμο όπου τα δεδομένα σας είναι το μόνο φράγμα σας, οι ηγέτες επιχείρησης πρέπει πάντα να αναρωτιούνται αν μπορούν να εμπιστευτούν και να βασιστούν σε agents AI που έχουν πρόσβαση σε όλα τα δεδομένα τους να μην καταχραστούν ή να μην χρησιμοποιήσουν κατά λάθος.

Όπως η ρύθμιση AI λαμβάνει σχήμα παγκοσμίως, πώς βλέπετε την αλληλεπίδραση μεταξύ ασφαλών υποδομών δεδομένων, ευθύνης μοντέλων και συμμόρφωσης να εξελίσσεται τα επόμενα χρόνια;

Η ασφαλής υποδομή δεδομένων επιτρέπει την ευθύνη και την ευθύνη των μοντέλων. Συγκεκριμένα, χωρίς ελέγξιμη απόδειξη της λήψης αποφάσεων ή της χρήσης εργαλείων ενός μοντέλου, δεν μπορούμε να είμαστε βέβαιοι για τίποτα, οπότε δεν θα μπορούμε να ιχνηλατήσουμε την ευθύνη. Όσο η AI γίνεται ολοένα και πιο ενσωματωμένη στις καθημερινές μας ζωές, θέλουμε περισσότερη ερμηνευσιμότητα και παρατηρησιμότητα στην AI. Tuy nhiên, όταν η AI μπορεί να λειτουργήσει με ταχύτητα μηχανής, και δεν μπορούμε, ένα κακόβουλο AI μπορεί εύκολα να μας εξαπατήσει κατασκευάζοντας ψευδείς ιστορίες. Χρειαζόμαστε ελέγξιμη απόδειξη για να κρατήσουμε την AI υπόλογη.

Για μένα, η συμμόρφωση με τους κανονισμούς είναι πολύ αντιδραστική. Η ανάπτυξη και η ψήφιση των κανονισμών κινείται πολύ πιο αργά από την τεχνολογική καινοτομία. Αυτό θα είναι ολοένα και πιο αληθινό καθώς η AI μας βοηθά να αυξήσουμε το ρυθμό της καινοτομίας μας. Ενώ η συμμόρφωση θα οδηγήσει τελικά τους υστέρηδες να υιοθετήσουν ασφαλείς υποδομές δεδομένων, οι πρώτοι υιοθετητές και η πρώιμη πλειοψηφία αναγνωρίζουν ότι αυτό είναι κρίσιμο για την ασφάλεια της AI, και θα το υιοθετήσουν πολύ πριν η συμμόρφωση το κάνει υποχρεωτικό. Καταλαβαίνουν ότι η ευθύνη των agent, που ενεργοποιείται από ασφαλείς υποδομές δεδομένων, είναι κρίσιμη για την υιοθέτηση των δικών τους προϊόντων AI.

Ευχαριστώ για τη μεγάλη συνέντευξη, οι αναγνώστες που θέλουν να μάθουν περισσότερα πρέπει να επισκεφθούν OPAQUE.