Φρανκ Λιού, Διευθυντής Επιχειρήσεων στην Zilliz – Σειρά Συνεντεύξεων

Ο Φρανκ Λιού είναι ο Διευθυντής Επιχειρήσεων στην Zilliz, μια ηγετική εταιρεία που παρέχει τεχνολογίες βάσεων δεδομένων διανυσμάτων και τεχνητής νοημοσύνης. Είναι επίσης οι μηχανικοί και επιστήμονες που δημιούργησαν το LF AI Milvus®, την πιο δημοφιλή ανοιχτή βάση δεδομένων διανυσμάτων στον κόσμο.

Τι σας έκανε να ενδιαφερθείτε αρχικά για την машинική μάθηση;

Η πρώτη μου επαφή με τη δύναμη της ML/ΑΙ ήταν ως φοιτητής στο Πανεπιστήμιο του Στάνφορντ, παρά το γεγονός ότι ήταν λίγο μακριά από το αντικείμενο σπουδών μου (Ηλεκτρολογική Μηχανική). Αρχικά, με έκανε να ενδιαφερθώ η ικανότητα να αναλύσω σύνθετα ηλεκτρικά και φυσικά συστήματα σε μαθηματικές προσεγγίσεις, και η στατιστική και η машинική μάθηση μου φάνηκαν το ίδιο ισχυρές. Κατέληξα να παρακολουθήσω περισσότερα μαθήματα υπολογιστικής όρασης και машинικής μάθησης κατά τη διάρκεια της μεταπτυχιακής μου εκπαίδευσης, και έγραψα τη διπλωματική μου εργασία για τη χρήση της ML για να βαθμολογήσω την αισθητική ομορφιά των εικόνων. Όλα αυτά οδήγησαν στην πρώτη μου δουλειά στην ομάδα Υπολογιστικής Όρασης και Μαθηματικής Μάθησης της Yahoo, όπου είχα ένα υβριδικό ρόλο έρευνας και ανάπτυξης λογισμικού. Βρισκόμασταν ακόμη στην εποχή πριν από τους μετασχηματιστές AlexNet και VGG, και το να δεις ολόκληρο το πεδίο και τη βιομηχανία να κινείται τόσο γρήγορα, από την προετοιμασία των δεδομένων μέχρι την εκπαίδευση των μοντέλων σε μεγάλη κλίμακα και την παραγωγή των μοντέλων, ήταν απίστευτο. Σε πολλές περιπτώσεις, φαίνεται λίγο αστείο να χρησιμοποιήσω τη φράση “παλιά” για να αναφέρω σε κάτι που συνέβη λιγότερο από 10 χρόνια πριν, αλλά τέτοια είναι η πρόοδος που έχει γίνει σε αυτό το πεδίο.

Μετά την Yahoo, υπηρέτησα ως Τεχνικός Διευθυντής μιας εταιρείας που είχα共同 ιδρύσει, όπου χρησιμοποιήσαμε την ML για την εσωτερική τοποθέτηση. Εκεί, έπρεπε να βελτιστοποιήσουμε τα μοντέλα για πολύ μικρά μικροελεγκτές – μια διαφορετική αλλά συναφής μηχανική πρόκληση με τα σημερινά μεγάλα LLMs και μοντέλα διάχυσης. Κατασκευάσαμε επίσης υλικό, πίνακες για οπτική αναπαράσταση και απλές εφαρμογές cloud, αλλά η AI/ML ήταν πάντα το κεντρικό συστατικό του έργου μας.

Ακόμη και αν έχω εργαστεί στην ML ή σε συναφές πεδίο για το καλύτερο μέρος των 7 ή 8 ετών τώρα, ακόμη διατηρώ πολλή αγάπη για το σχεδιασμό κυκλωμάτων και τη ψηφιακή λογική. Έχοντας ένα υπόβαθρο στην Ηλεκτρολογική Μηχανική είναι, με πολλούς τρόπους, απίστευτα χρήσιμο για πολλή από την εργασία που είμαι вовлечμένος αυτές τις μέρες. Πολλές σημαντικές έννοιες στο ψηφιακό σχεδιασμό, όπως η εικονική μνήμη, η πρόβλεψη κλάδου και η ταυτόχρονη εκτέλεση σε HDL, παρέχουν μια πλήρη άποψη σε πολλά από τα ML και τα συστήματα που διανυσμάτων σήμερα. Ενώ καταλαβαίνω τον έλξη του CS, ελπίζω να δω μια αναβίωση σε πιο παραδοσιακά πεδία μηχανικής – Ηλεκτρολογική, Μηχανολογική, Χημική Μηχανική κ.λπ. – μέσα στα επόμενα χρόνια.

Για τους αναγνώστες που δεν είναι εξοικειωμένοι με τον όρο, τι είναι η ακατέργαστη δεδομένα;

Η ακατέργαστη δεδομένα αναφέρεται σε “σύνθετα” δεδομένα, τα οποία είναι ουσιαστικά δεδομένα που δεν μπορούν να αποθηκευτούν σε προκαθορισμένο μορφότυπο ή να ταιριάζουν σε υπάρχοντα μοντέλο δεδομένων. Για σύγκριση, τα δομημένα δεδομένα αναφέρονται σε οποιοδήποτε είδος δεδομένων που έχει προκαθορισμένη δομή – αριθμητικά δεδομένα, συμβολοσειρές, πίνακες, αντικείμενα και ζευγάρια κλειδιού-τιμής είναι όλα παραδείγματα δομημένων δεδομένων.

Για να κατανοήσετε πραγματικά τι είναι η ακατέργαστη δεδομένα και γιατί είναι παραδοσιακά δύσκολο να επεξεργαστούνται αυτά τα δεδομένα, βοηθά να τα συγκρίνετε με τα δομημένα δεδομένα. Σε απλούστερους όρους, τα παραδοσιακά δομημένα δεδομένα μπορούν να αποθηκευτούν μέσω ενός σχεσιακού μοντέλου. Πάρτε, για παράδειγμα, μια σχεσιακή βάση δεδομένων με einen πίνακα για την αποθήκευση πληροφοριών βιβλίων: κάθε γραμμή στο πίνακα θα μπορούσε να αντιπροσωπεύει ένα συγκεκριμένο βιβλίο που indeksiруется από τον αριθμό ISBN, ενώ οι στήλες θα σήμαιναν την αντίστοιχη κατηγορία πληροφοριών, όπως τίτλος, συγγραφέας, ημερομηνία έκδοσης, κ.λπ. Σήμερα, υπάρχουν πολύ πιο ευέλικτα μοντέλα δεδομένων – αποθήκες wide-column, βάσεις δεδομένων αντικειμένων, βάσεις δεδομένων γράφου, κ.λπ. Αλλά η γενική ιδέα παραμένει η ίδια: αυτές οι βάσεις δεδομένων προορίζονται για την αποθήκευση δεδομένων που ταιριάζουν σε συγκεκριμένο μορφότυπο δεδομένων.

Η ακατέργαστη δεδομένα, από την άλλη πλευρά, μπορεί να θεωρηθεί ως ουσιαστικά ένα ψευδο-τυχαίο μπλοκ δυαδικών δεδομένων. Μπορεί να αντιπροσωπεύει οτιδήποτε, να είναι αυθαίρετα μεγάλο ή μικρό, και μπορεί να μετατραπεί και να διαβαστεί με έναν από τους αμέτρητους διαφορετικούς τρόπους. Αυτό το καθιστά αδύνατο να ταιριάζει σε οποιοδήποτε μοντέλο δεδομένων, ακόμη και σε einen πίνακα μιας σχεσιακής βάσης δεδομένων.

Ποια είναι κάποια παραδείγματα αυτού του είδους δεδομένων;

Τα δεδομένα που παράγονται από ανθρώπους – εικόνες, βίντεο, ήχος, φυσική γλώσσα, κ.λπ. – είναι εξαιρετικά παραδείγματα ακατέργαστων δεδομένων. Αλλά υπάρχουν πολλά άλλα λιγότερο συνηθισμένα παραδείγματα ακατέργαστων δεδομένων. Τα προφίλ χρηστών, οι δομές πρωτεϊνών, οι ακολουθίες γονιδιώματος και ακόμη και ο ανθρώπινος κώδικας είναι επίσης εξαιρετικά παραδείγματα ακατέργαστων δεδομένων. Ο κύριος λόγος που τα ακατέργαστα δεδομένα έχουν παραδοσιακά ήταν τόσο δύσκολο να διαχειριστούν είναι ότι τα ακατέργαστα δεδομένα μπορούν να έχουν οποιαδήποτε μορφή και μπορεί να απαιτούν πολύ διαφορετικές χρόνους εκτέλεσης για την επεξεργασία.

Χρησιμοποιώντας τις εικόνες ως παράδειγμα, δύο φωτογραφίες της ίδιας σκηνής θα μπορούσαν να έχουν πολύ διαφορετικές τιμές pixel, αλλά και οι δύο έχουν παρόμοιο συνολικό περιεχόμενο. Η φυσική γλώσσα είναι ένα άλλο παράδειγμα ακατέργαστων δεδομένων που μου αρέσει να αναφέρω. Οι φράσεις “Ηλεκτρολογική Μηχανική” και “Επιστήμη Υπολογιστών” είναι εξαιρετικά στενά συνδεδεμένες – τόσο πολύ, ώστε τα κτήρια Ηλεκτρολογικής Μηχανικής και Επιστήμης Υπολογιστών στο Στάνφορντ είναι διπλασιά με τα άλλα – αλλά χωρίς έναν τρόπο να κωδικοποιήσουμε τη σημασιολογική σημασία πίσω από αυτές τις δύο φράσεις, ένας υπολογιστής μπορεί να νομίσει ότι “Επιστήμη Υπολογιστών” και “Κοινωνική Επιστήμη” είναι πιο συναφείς.

Τι είναι μια βάση δεδομένων διανυσμάτων;

Για να κατανοήσετε μια βάση δεδομένων διανυσμάτων, πρώτα βοηθά να κατανοήσετε τι είναι μια ενσωμάτωση. Θα το εξηγήσω σε λίγο, αλλά η σύντομη εκδοχή είναι ότι μια ενσωμάτωση είναι ένα διανυσματικό υψηλής διαστάσεων που μπορεί να αντιπροσωπεύει τη σημασιολογία των ακατέργαστων δεδομένων. Γενικά, δύο ενσωματώσεις που είναι κοντά η μια στην άλλη σε σχέση με την απόσταση είναι πολύ πιθανό να αντιστοιχούν σε σημασιολογικά παρόμοια δεδομένα εισόδου. Με τη σύγχρονη ML, έχουμε τη δύναμη να κωδικοποιήσουμε και να μετατρέψουμε eine ποικιλία διαφορετικών τύπων ακατέργαστων δεδομένων – εικόνες και κείμενο, για παράδειγμα – σε σημασιολογικά ισχυρά διανυσματικά ενσωματώσεις.

Από την πλευρά μιας οργάνωσης, τα ακατέργαστα δεδομένα γίνονται απίστευτα δύσκολα να διαχειριστούν μια φορά που η ποσότητα ξεπεράσει ένα ορισμένο όριο. Εδώ είναι όπου μια βάση δεδομένων διανυσμάτων όπως η Zilliz Cloud έρχεται. Eine βάση δεδομένων διανυσμάτων είναι ειδικά σχεδιασμένη για την αποθήκευση, τον δείκτη και την αναζήτηση σε τεράστιες ποσότητες ακατέργαστων δεδομένων, χρησιμοποιώντας ενσωματώσεις ως την υποκείμενη αναπαράσταση. Η αναζήτηση σε μια βάση δεδομένων διανυσμάτων γίνεται συνήθως με διανυσματικές ερωτήσεις, και το αποτέλεσμα της ερωτήματος είναι τα top N πιο παρόμοια αποτελέσματα με βάση την απόσταση.

Οι καλύτερες βάσεις δεδομένων διανυσμάτων έχουν πολλές από τις λειτουργίες ευχρηστίας των παραδοσιακών σχεσιακών βάσεων δεδομένων: οριζόντια κλιμάκωση,缓存, αναπαραγωγή, αποτυχία, και εκτέλεση ερωτήματος είναι μόνο quelques από τις πολλές λειτουργίες που μια αληθινή βάση δεδομένων διανυσμάτων πρέπει να εφαρμόσει. Ως ορισμός κατηγορίας, έχουμε sido ενεργοί σε ακαδημαϊκούς κύκλους, έχοντας δημοσιεύσει ερευνητικές εργασίες στο SIGMOD 2021 και VLDB 2022, τις δύο κορυφαίες συνεδρίες βάσεων δεδομένων που υπάρχουν σήμερα.

Μπορείτε να συζητήσετε τι είναι μια ενσωμάτωση;

Γενικά, μια ενσωμάτωση είναι ένα διανυσματικό υψηλής διαστάσεων που προέρχεται από τις ενεργοποιήσεις eines μεσοστικών στρώματος σε ένα πολυστρώματο νευρωνικό δίκτυο. Πολλά νευρωνικά δίκτυα εκπαιδεύονται να εξάγουν ενσωματώσεις και ορισμένες εφαρμογές χρησιμοποιούν συνδεδεμένα διανύσματα από πολλαπλά μεσοστικά στρώματα ως την ενσωμάτωση, αλλά δεν θα το αναλύσω περισσότερο για τώρα. Ένας άλλος λιγότερο συνηθισμένος αλλά εξίσου σημαντικός τρόπος για τη δημιουργία ενσωματώσεων είναι μέσω χειροποίητων χαρακτηριστικών. Αντί να έχει ένα μοντέλο ML να μάθει τις σωστές αναπαραστάσεις για τα δεδομένα εισόδου, η καλή παλιά χαρακτηριστική μηχανική μπορεί να λειτουργήσει για πολλές εφαρμογές επίσης. Ανεξάρτητα από τη βασική μέθοδο, οι ενσωματώσεις για σημασιολογικά παρόμοια αντικείμενα είναι κοντά η μια στην άλλη σε σχέση με την απόσταση, και αυτή η ιδιότητα είναι αυτή που δίνει τη δύναμη στις βάσεις δεδομένων διανυσμάτων.

Ποια είναι κάποια από τα πιο δημοφιλή παραδείγματα χρήσης αυτής της τεχνολογίας;

Οι βάσεις δεδομένων διανυσμάτων είναι ιδανικές για οποιαδήποτε εφαρμογή που απαιτεί κάποιο είδος σημασιολογικής αναζήτησης – συστάσεις προϊόντων, ανάλυση βίντεο, αναζήτηση εγγράφων, ανίχνευση απειλών και απάτης, και chatbots που βασίζονται σε AI είναι κάποια από τα πιο δημοφιλή παραδείγματα χρήσης για τις βάσεις δεδομένων διανυσμάτων σήμερα. Για να το εικονογραφήσω, η Milvus, η ανοιχτή βάση δεδομένων διανυσμάτων που δημιουργήθηκε από την Zilliz και το υποκείμενο πυρήνα της Zilliz Cloud, έχει χρησιμοποιηθεί από πάνω από χιλιάδες επιχειρηματίες σε eine ποικιλία διαφορετικών παραδειγμάτων χρήσης.

Μου αρέσει πάντα να συζητάω αυτές τις εφαρμογές και να βοηθάω τους ανθρώπους να κατανοήσουν πώς λειτουργούν, αλλά σίγουρα απολαμβάνω επίσης να αναφέρω σε κάποια από τα λιγότερο γνωστά παραδείγματα χρήσης της βάσης δεδομένων διανυσμάτων. Η ανακάλυψη νέων φαρμάκων είναι ένα από τα αγαπημένα μου “νίς” παραδείγματα χρήσης της βάσης δεδομένων διανυσμάτων. Η πρόκληση για αυτήν την εφαρμογή είναι η αναζήτηση για πιθανές υποψήφιες ουσίες για την θεραπεία μιας συγκεκριμένης ασθένειας ή συμπτώματος μεταξύ μιας βάσης δεδομένων 800 εκατομμυρίων ενώσεων. Μια φαρμακευτική εταιρεία που επικοινωνήσαμε ήταν σε θέση να βελτιστοποιήσει σημαντικά τη διαδικασία ανακάλυψης φαρμάκων, καθώς και να μειώσει τους πόρους υλικού, συνδυάζοντας τη Milvus με μια βιβλιοθήκη χημειοπληροφορικής που ονομάζεται RDKit.

Το AI ArtLens του Μουσείου Τέχνης της Κλήβελαντ είναι ένα άλλο παράδειγμα που μου αρέσει να αναφέρω. Το AI ArtLens είναι ένα διαδραστικό εργαλείο που παίρνει μια εικόνα ερωτήματος ως εισόδου και τραβεί οπτικά παρόμοιες εικόνες από τη βάση δεδομένων του μουσείου. Αυτό συνήθως αναφέρεται ως αντίστροφη αναζήτηση εικόνων και είναι ένα khá συνηθισμένο παράδειγμα χρήσης για τις βάσεις δεδομένων διανυσμάτων, αλλά η μοναδική αξία που παρέχει η Milvus στο CMA ήταν η ικανότητα να πάρει την εφαρμογή σε λειτουργία μέσα σε μια εβδομάδα με μια πολύ μικρή ομάδα.

Μπορείτε να συζητήσετε τι είναι η ανοιχτή πλατφόρμα Towhee;

Όταν επικοινωνούσαμε με ανθρώπους από την κοινότητα της Milvus, βρήκαμε ότι πολλοί από αυτούς ήθελαν να έχουν einen τρόπο να δημιουργήσουν ενσωματώσεις για τη Milvus. Αυτό ήταν αλήθεια για σχεδόν όλες τις διαφορετικές οργανώσεις που μιλήσαμε, αλλά ιδιαίτερα για τις εταιρείες που δεν είχαν πολλούς μηχανικούς ML. Με τη Towhee, στοχεύουμε να λύσουμε αυτό το κενό μέσω της “διαδικασίας εξαγωγής διανυσματικών δεδομένων”. Ενώ οι παραδοσιακές διαδικασίες εξαγωγής δεδομένων εστιάζουν στο συνδυασμό και τη μετατροπή δομημένων δεδομένων από πολλαπλά πηγές σε einen μορφότυπο που μπορεί να χρησιμοποιηθεί, η Towhee προορίζεται για να εργαστεί με ακατέργαστα δεδομένα και να περιλαμβάνει ρητά την ML στη διαδικασία εξαγωγής δεδομένων. Η Towhee επιτυγχάνει αυτό παρέχοντας εκατοντάδες μοντέλα, αλγόριθμους και μετασχηματισμούς που μπορούν να χρησιμοποιηθούν ως δομικά στοιχεία σε μια διαδικασία εξαγωγής διανυσματικών δεδομένων. Επιπλέον, η Towhee παρέχει επίσης μια εύχρηστη API Python που επιτρέπει στους développers να δημιουργήσουν και να δοκιμάσουν αυτές τις διαδικασίες εξαγωγής δεδομένων σε μια seule γραμμή κώδικα.

Ενώ η Towhee είναι ένα αυτόνομο έργο, είναι επίσης μέρος του ευρύτερου οικοσυστήματος βάσεων δεδομένων διανυσμάτων που επικεντρώνεται στη Milvus και δημιουργείται από την Zilliz. Ελπίζουμε ότι η Milvus και η Towhee θα είναι δύο έργα που συμπληρώνουν το ένα το άλλο, τα οποία, όταν χρησιμοποιούνται μαζί, μπορούν πραγματικά να δημοκρατικοποιήσουν την επεξεργασία ακατέργαστων δεδομένων.

Η Zilliz raised最近 một γύρο Series B 60 εκατομμυρίων δολαρίων. Πώς θα επιταχύνει η Zilliz την αποστολή της;

Θα ήθελα πρώτα να ευχαριστήσω την Prosperity7 Ventures, Pavilion Capital, Hillhouse Capital, 5Y Capital, Yunqi Capital, και άλλους για την πίστη τους στην αποστολή της Zilliz και την υποστήριξή μας με αυτήν την επέκταση της σειράς B. Έχουμε τώρα συγκεντρώσει συνολικά 113 εκατομμύρια δολάρια, και αυτή η τελευταία γύρος χρηματοδότησης θα υποστηρίξει τις προσπάθειές μας να κλιμακωθούμε τις ομάδες μηχανικής και go-to-market. Συγκεκριμένα, θα βελτιώσουμε την διαχειριζόμενη cloud μας, η οποία είναι目前 σε πρώιμη πρόσβαση αλλά προγραμματισμένη να ανοίξει σε όλους αργότερα φέτος. Θα συνεχίσουμε επίσης να επενδύουμε σε πρωτοποριακή έρευνα βάσεων δεδομένων και AI, όπως έχουμε κάνει τα τελευταία 4 χρόνια.

Υπάρχει κάτι άλλο που θα ήθελε να μοιραστεί για την Zilliz;

Ως εταιρεία, μεγαλώνουμε γρήγορα, αλλά αυτό που πραγματικά διακρίνει την τρέχουσα ομάδα μας από άλλες εταιρείες στον χώρο βάσεων δεδομένων και ML είναι η μοναδική μας αγάπη για αυτό που χτίζουμε. Είμαστε σε μια αποστολή να δημοκρατικοποιήσουμε την επεξεργασία ακατέργαστων δεδομένων, και είναι απίστευτα ενθαρρυντικό να βλέπω τόσο ταλαντούχους ανθρώπους στην Zilliz να εργάζονται προς ένα κοινό στόχο. Αν κάτι από αυτό που κάνουμε σας ενδιαφέρει, μην διστάσετε να συνδεθείτε μαζί μας. Θα ήμασταν χαρούμενοι να σας έχουμε στην ομάδα.

Εάν θέλετε να μάθετε λίγο περισσότερα, είμαι επίσης προσωπικά ανοιχτός στο να συζητήσω για την Zilliz, τις βάσεις δεδομένων διανυσμάτων ή τις εξελίξεις που σχετίζονται με ενσωματώσεις στην AI/ML. Η (εικονική) πόρτα μου είναι πάντα ανοιχτή, οπότε μην διστάσετε να με επικοινωνήσετε trực tiếp στο Twitter/LinkedIn.

Τέλος, ευχαριστώ για την ανάγνωση!

Ευχαριστώ για τη μεγάλη συνέντευξη, οι αναγνώστες που θέλουν να μάθουν περισσότερα μπορούν να επισκεφθούν την Zilliz.