Charles Xie, Fondator și CEO al Zilliz – Seria de Interviuri

Charles Xie este fondatorul și CEO-ul Zilliz, care se axează pe dezvoltarea de baze de date și tehnologii de căutare de ultimă generație pentru aplicații AI și LLM. La Zilliz, el a inventat și Milvus, cea mai populară bază de date vectorială open-source pentru AI de producție. El este în prezent membru al consiliului de administrație al LF AI & Data Foundation și a ocupat funcția de președinte al consiliului în 2020 și 2021. Charles a lucrat anterior la Oracle (ORCL ) ca inginer fondator al proiectului bazei de date cloud Oracle 12c. Charles deține o diplomă de master în știința calculatoarelor de la Universitatea din Wisconsin-Madison.

Zilliz este echipa din spatele LF AI Milvus®, o bază de date vectorială open-source larg utilizată. Compania se axează pe simplificarea gestionării infrastructurii de date, cu scopul de a face AI mai accesibil pentru corporații, organizații și indivizi deopotrivă.

Puteți împărtăși povestea din spatele fondării Zilliz și ce v-a inspirat să dezvoltați Milvus și să vă axați pe baze de date vectoriale?

Călătoria mea în domeniul bazelor de date acoperă peste 15 ani, inclusiv șase ani ca inginer software la Oracle, unde am fost membru fondator al echipei bazei de date Oracle 12c Multitenant. În acest timp, am observat o limitare cheie: în timp ce datele structurate erau gestionate bine, datele nestructurate – care reprezintă 90% din toate datele – rămâneau în mare măsură nefolosite, cu doar 1% analizate în mod semnificativ.

În 2017, capacitatea în creștere a AI de a procesa date nestructurate a marcat un punct de cotitură. Progresele în NLP au arătat cum datele nestructurate pot fi transformate în încorporări vectoriale, deblocând sensul lor semantic. Acest lucru m-a inspirat să fondăm Zilliz, cu o viziune de a gestiona “miliarde de date”. Încorporările vectoriale au devenit piatra de temelie pentru punerea podului între datele nestructurate și insight-urile acționabile. Am dezvoltat Milvus ca o bază de date vectorială special concepută pentru a aduce această viziune la viață.

În ultimii doi ani, industria a validat această abordare, recunoscând bazele de date vectoriale ca fundamentale pentru gestionarea datelor nestructurate. Pentru noi, este vorba de mai mult decât tehnologie – este vorba de a împuternici omenirea să valorifice potențialul datelor nestructurate în era AI.

Cum a evoluat călătoria Zilliz de la înființare, acum șase ani, și ce provocări cheie ați întâmpinat în timp ce pionierizați spațiul bazelor de date vectoriale?

Călătoria a fost transformativă. Când am început Zilliz, cu șapte ani în urmă, adevărata provocare nu a fost strângerea de fonduri sau angajarea de personal – a fost construirea unui produs într-un teritoriu complet neexplorat. Fără hărți rutiere existente, cele mai bune practici sau așteptări ale utilizatorilor stabilite, am trebuit să ne creăm propriul drum.

Printr-o pauză, am reușit să deschidem Milvus. Prin scăderea barierelor pentru adoptare și încurajarea implicării comunității, am obținut feedbackuri valoroase de la utilizatori pentru a itera și a îmbunătăți produsul. Când Milvus a fost lansat în 2019, am avut aproximativ 30 de utilizatori până la sfârșitul anului. Acest număr a crescut la peste 200 în 2020 și la aproape 1.000 în curând.

Astăzi, bazele de date vectoriale s-au transformat dintr-un concept nou în infrastructură esențială în era AI, validând viziunea cu care am început.

Ca o companie de baze de date vectoriale, ce capacități tehnice unice oferă Zilliz pentru a sprijini căutarea vectorială multimodală în aplicațiile moderne AI?

Zilliz a dezvoltat capacități tehnice avansate pentru a sprijini căutarea vectorială multimodală:

1. Căutare hibridă: Permite căutări simultane în diferite modalități, cum ar fi combinarea caracteristicilor vizuale ale unei imagini cu descrierea sa text.
2. Algoritmi optimizați: Tehnici de cuantificare proprietare echilibrează acuratețea de rechemare și eficiența memoriei pentru căutări transmodale.
3. Procesare în timp real și offline: Sistemul nostru dual suportă scrieri în timp real cu latență scăzută și importuri offline de înaltă performanță, asigurând prospețimea datelor.
4. Eficiență a costurilor: Instanțele noastre cu capacitate extinsă utilizează stocarea inteligentă în trepte pentru a reduce semnificativ costurile de stocare, menținând în același timp o performanță ridicată.
5. Modele de inteligență artificială încorporate: Integrând modele de încorporare și clasificare multimodale, am redus bariera pentru implementarea aplicațiilor de căutare complexe.

Aceste capacități permit dezvoltatorilor să gestioneze eficient diverse tipuri de date, făcând aplicațiile moderne AI mai robuste și mai versatile.

Cum considerați că RAG multimodal va avansa capacitatea AI de a gestiona date complexe din lumea reală, cum ar fi imagini, audio și videoclipuri, alături de text?

RAG multimodal (Generare îmbunătățită de recuperare) reprezintă o evoluție crucială în AI. În timp ce RAG pe bază de text a fost proeminent, majoritatea datelor întreprinderilor acoperă imagini, videoclipuri și audio. Capacitatea de a integra aceste formate diverse în fluxurile de lucru AI este critică.

Acest schimbare este oportună, deoarece comunitatea AI dezbate limitele datelor text disponibile pe internet pentru antrenament. În timp ce datele text sunt finite, datele multimodale rămân în mare măsură nefolosite – de la videoclipuri corporative la filme de la Hollywood și înregistrări audio.

RAG multimodal deblochează acest rezervor nefolosit, permițând sistemelor AI să proceseze și să valorifice aceste tipuri de date bogate. Nu este doar despre abordarea lipsei de date; este despre extinderea capacităților AI pentru a înțelege și interacționa mai bine cu lumea reală.

Cum se diferențiază Zilliz de concurenți în piața în creștere a bazelor de date vectoriale?

Zilliz se diferențiază prin mai multe aspecte unice:

1. Identitate duală: Suntem atât o companie de inteligență artificială, cât și o companie de baze de date, împingând limitele gestionării datelor și integrării AI.
2. Proiectare nativă cloud: Milvus 2.0 a fost prima bază de date vectorială distribuită care a adoptat o arhitectură de stocare și calculări descentralizate, permițând scalabilitate și eficiență a costurilor pentru peste 100 de miliarde de vectori.
3. Îmbunătățiri proprietare: Motorul nostru Cardinal atinge de trei ori performanța Milvus open-source și de 10 ori mai mult decât concurenții. De asemenea, oferim indexare pe disc și stocare inteligentă pentru scalare eficientă din punct de vedere al costurilor.
4. Inovație continuă: De la capacități de căutare hibridă la unelte de migrare precum VTS, suntem într-o continuă evoluție a tehnologiei bazelor de date vectoriale.

Angajamentul nostru față de open-source asigură flexibilitate, în timp ce serviciul nostru gestionat, Zilliz Cloud, oferă performanță de nivel întreprindere cu complexitate operațională minimă.

Puteți detalia importanța Zilliz Cloud și rolul său în democratizarea AI și în facilitarea accesului la servicii de căutare vectorială pentru dezvoltatori mici și întreprinderi deopotrivă?

Căutarea vectorială a fost utilizată de giganții tehnologiei din 2015, dar implementările proprietare au limitat adoptarea sa mai largă. La Zilliz, democratizăm această tehnologie prin două abordări complementare:

1. Open-source: Milvus permite dezvoltatorilor să construiască și să dețină propria infrastructură de căutare vectorială, reducând barierele tehnice.
2. Serviciu gestionat: Zilliz Cloud elimină complexitatea operațională, oferind o soluție simplă și eficientă din punct de vedere al costurilor pentru afaceri, permițându-le să adopte căutarea vectorială fără a necesita ingineri specializați.

Această abordare duală face căutarea vectorială accesibilă atât pentru dezvoltatori, cât și pentru întreprinderi, permițându-le să se concentreze pe construirea de aplicații AI inovatoare.

Având în vedere progresele în LLM și modelele de bază, ce considerați că va fi următoarea schimbare majoră în infrastructura de date AI?

Următoarea schimbare majoră va fi transformarea completă a infrastructurii de date AI pentru a gestiona date nestructurate, care reprezintă 90% din datele lumii. Sistemele existente, proiectate pentru date structurate, sunt nepregătite pentru această schimbare.

Această transformare va afecta fiecare strat al stivei de date, de la sistemele de baze de date fundamentale la protocoalele de securitate și sistemele de observabilitate. Nu este vorba despre upgrade-uri incrementale; este vorba despre crearea de noi paradigme adaptate complexității datelor nestructurate.

Această transformare va atinge fiecare aspect al stivei de date:

• Sisteme de baze de date fundamentale
• Procese de pipeline de date și ETL
• Mecanisme de curățare și transformare a datelor
• Protocoale de securitate și criptare
• Cadre de conformitate și guvernanță
• Sisteme de observabilitate a datelor

Nu vorbim despre upgrade-uri ale sistemelor existente – vorbim despre construirea de paradigme complet noi. Este ca și cum ne-am muta dintr-o lume optimizată pentru organizarea cărților într-o bibliotecă într-una care trebuie să gestioneze, să înțeleagă și să proceseze întregul internet. Această schimbare reprezintă o lume nouă, în care fiecare component al infrastructurii de date ar putea trebui să fie reinventat de la zero.

Această revoluție va redefini modul în care stocăm, gestionăm și procesăm date, deblocând oportunități uriașe pentru inovația AI.

Cum a influențat integrarea GPU-urilor NVIDIA (NVDA ) performanța și scalabilitatea căutării vectoriale?

Integrarea GPU-urilor NVIDIA a îmbunătățit semnificativ performanța căutării noastre vectoriale în două domenii cheie.

În primul rând, în construirea indexului, care este una dintre cele mai intensive operațiuni de calcul în bazele de date vectoriale. Comparativ cu indexarea tradițională a bazelor de date, construirea indexului vectorial necesită mai multe ordine de mărime de putere de calcul. Prin utilizarea accelerării GPU, am redus dramatic timpul de construire a indexului, permițând o ingestie de date mai rapidă și o vizibilitate mai bună a datelor.

În al doilea rând, GPU-urile au fost cruciale pentru cazurile de utilizare a interogărilor de înaltă performanță. În aplicații precum comerțul electronic, unde sistemele trebuie să gestioneze mii sau chiar zeci de mii de interogări pe secundă (QPS), capacitățile de procesare paralelă ale GPU-urilor s-au dovedit invaluabile. Prin utilizarea accelerării GPU, putem procesa eficient aceste interogări de căutare vectorială de înaltă performanță, menținând în același timp o latență scăzută.

De la 2021, am colaborat cu NVIDIA pentru a optimiza algoritmii noștri pentru arhitectura GPU, dar și pentru a dezvolta sistemul nostru pentru a suporta calculul heterogen pe diverse arhitecturi de procesor. Acest lucru oferă clienților noștri flexibilitatea de a alege infrastructura hardware cea mai potrivită pentru nevoile lor specifice.

Având în vedere rolul critic al bazelor de date vectoriale în AI, considerați că aplicarea lor se va extinde dincolo de cazurile de utilizare tradiționale, cum ar fi sistemele de recomandare și căutare, în industrii precum sănătatea?

Bazele de date vectoriale se extind rapid dincolo de aplicațiile tradiționale, cum ar fi sistemele de recomandare și căutare, pătrunzând în industrii pe care nu le-am imaginat anterior. Să vă prezint câteva exemple.

În sănătate și cercetare farmaceutică, bazele de date vectoriale revoluționează descoperirea de medicamente. Moleculele pot fi vectorizate pe baza proprietăților lor funcționale, și utilizând caracteristici avansate precum căutarea în interval, cercetătorii pot descoperi toți candidații potențiali de medicamente care ar putea trata anumite boli sau simptome. În contrast cu căutările top-k tradiționale, căutarea în interval identifică toate moleculele dintr-un anumit interval de la țintă, oferind o vedere cuprinzătoare a tuturor candidaților posibili.

În conducerea autonomă, bazele de date vectoriale îmbunătățesc siguranța și performanța vehiculului. O aplicație interesantă este gestionarea cazurilor limită – atunci când sunt întâlnite scenarii neobișnuite, sistemul poate căuta rapid prin baze de date masive de situații similare pentru a găsi date de antrenament relevante pentru ajustarea modelelor de conducere autonomă.

De asemenea, vedem aplicații inovatoare în servicii financiare pentru detectarea fraudelor, în securitatea cibernetică pentru detectarea amenințărilor și în publicitatea direcționată pentru o implicare mai bună a clienților. De exemplu, în domeniul bancar, tranzacțiile pot fi vectorizate și comparate cu modele istorice pentru a identifica activități frauduloase potențiale.

Puterea bazelor de date vectoriale constă în capacitatea lor de a înțelege și procesa similaritatea în orice domeniu – fie că este vorba de structuri moleculare, scenarii de conducere, modele financiare sau amenințări de securitate. Pe măsură ce AI continuă să evolueze, abia începem să atingem suprafața a ceea ce este posibil.

Cum pot dezvoltatorii și întreprinderile să interacționeze cel mai bine cu Zilliz și Milvus pentru a valorifica tehnologia bazelor de date vectoriale în proiectele lor AI?

Există două căi principale pentru a valorifica tehnologia bazelor de date vectoriale cu Zilliz și Milvus, fiecare adaptată pentru nevoi și priorități diferite. Dacă valorizați flexibilitatea și personalizarea, Milvus, soluția noastră open-source, este alegerea dvs. cea mai bună. Cu Milvus, puteți:

• Experimentați liber și învățați tehnologia în propriul ritm
• Personalizați soluția în funcție de cerințele dvs. specifice
• Contribuiți la dezvoltare și modificați codul sursă
• Mențineți controlul complet asupra infrastructurii dvs.

Cu toate acestea, dacă doriți să vă concentrați pe construirea aplicației dvs. fără a gestiona infrastructura, Zilliz Cloud este alegerea optimă. Acesta oferă:

• O soluție gata de utilizare, cu o singură clic pentru implementare
• Securitate și conformitate de nivel întreprindere
• Disponibilitate și stabilitate ridicată
• Performanță optimizată fără complexitate operațională

Gândiți-vă astfel: dacă vă place “a face ajustări” și doriți flexibilitate maximă, alegeți Milvus. Dacă doriți să minimizați complexitatea operațională și să începeți direct construirea aplicației dvs., alegeți Zilliz Cloud.

Ambele căi vă vor duce la destinație – este doar o chestiune de cât de mult din călătorie doriți să controlați versus cât de rapid trebuie să ajungeți

Mulțumim pentru acest interviu minunat; cititorii care doresc să afle mai multe despre Zilliz sau Milvus pot vizita Zilliz sau Milvus.