Charles Xie, Zillizin perustaja ja toimitusjohtaja – Haastattelusarja

Charles Xie on Zillizin perustaja ja toimitusjohtaja, joka keskittyy seuraavan sukupolven tietokantojen ja hakuteknologioiden kehittämiseen AI- ja LLM-sovelluksia varten. Zillizissä hän keksi myös Milvusin, maailman suosituimman avoimen lähdekoodin vektorigraafisen tietokannan tuotantovalmiille AI-sovelluksille. Hän on tällä hetkellä LF AI & Data Foundationin hallituksen jäsen ja toimi hallituksen puheenjohtajana vuosina 2020 ja 2021. Charles työskenteli aikaisemmin Oraclessa perustajainsinöörinä Oracle (ORCL ) 12c -pilvitietokantahankkeessa. Charlesilla on maisterin tutkinto tietojenkäsittelytieteestä Wisconsinin yliopistosta Madisonissa.

Zilliz on tiimi, joka on kehittänyt LF AI Milvus®-avoin lähdekoodin vektorigraafisen tietokannan. Yritys keskittyy yksinkertaistamaan data-infrastruktuurin hallintaa, pyrkien tehdä AI:sta helpommin saataville yrityksille, organisaatioille ja yksilöille.

Voitko kertoa tarinan Zillizin perustamisesta ja mitä inspiraatioita sinulla oli kehittää Milvus ja keskittyä vektorigraafisiin tietokantoihin?

Matkani tietokantakentässä ulottuu yli 15 vuoden ajalle, mukaan lukien kuusi vuotta Oraclella ohjelmistosuunnittelijana, jolloin olin perustajajäsen Oracle 12c Multitenant Database -tiimissä. Tuona aikana huomasin avainrajoituksen: kun strukturoitu data hallittiin hyvin, strukturoimaton data – joka edustaa 90 % kaikista datasta – oli suurelta osin käsittelemättä, ja vain 1 % analysoitiin mielekkäästi.

Vuonna 2017 AI:n kyky prosessoida strukturoimatonta dataa merkitsi käännekohtaa. NLP:n edistysaskeleet osoittivat, miten strukturoimaton data voitiin muuttaa vektoriupotuksiksi, lukiten sen semanttisen merkityksen. Tämä inspiroi minua perustamaan Zillizin, jolla on visio “hallita biljoonia dataa”. Vektoriupotukset tulivat kulmakiveksi siltaamassa strukturoimattoman datan ja toimivien näkymien välistä kuilua. Kehittelimme Milvusin tarkoituksenmukaiseksi vektorigraafiseksi tietokannaksi toteuttaaksemme tämän vision.

Viimeisen kahden vuoden aikana teollisuus on vahvistanut tämän lähestymistavan, tunnustamalla vektorigraafiset tietokannat perustana strukturoimattoman datan hallintaan. Meille tämä on enemmän kuin teknologia – se on ihmiskunnan valtuuttaminen hyödyntämään strukturoimattoman datan potentiaalia AI-aikakaudella.

Miten Zillizin matka on kehittynyt sen perustamisesta lähtien, ja mitkä olivat tärkeimmät haasteet, joita kohtasitte vektorigraafisen tietokannan uranuurtamisessa?

Matka on ollut muodonmuutos. Kun aloimme Zillizin seitsemän vuotta sitten, oikea haaste ei ollut rahoituksen kerääminen tai palkkaaminen – se oli tuotteen kehittäminen täysin karttapohjaisessa alueessa. Ilman olemassa olevia tiemerkintöjä, parhaiden käytäntöjen tai vakiintuneita käyttäjäodotuksia joudumme luomaan oman reittimme.

Läpimurto tapahtui Milvusin avoimen lähdekoodin julkaisun myötä. Alentamalla esteitä omaksumiselle ja edistämällä yhteisön osallistumista saimme arvokkaita käyttäjäpalautteita, joita voimme käyttää tuotteen parantamiseen. Kun Milvus julkaistiin vuonna 2019, meillä oli noin 30 käyttäjää vuoden lopussa. Tämä kasvoi yli 200:aan vuonna 2020 ja lähes 1 000:een pian sen jälkeen.

Tänään vektorigraafiset tietokannat ovat siirtyneet uudesta konseptista välttämättömään infrastruktuuriin AI-aikakaudella, vahvistaen alkuperäistä visiota, josta aloimme.

Miten Zilliz tarjoaa ainutlaatuisia teknisiä ominaisuuksia tukemaan monimodaalista vektorihakua modernissa AI-sovelluksissa?

Zilliz on kehittänyt edistyneitä teknisiä ominaisuuksia tukemaan monimodaalista vektorihakua:

1. Hybridihaun: Mahdollistamme samanaikaista hakua eri modaaleissa, kuten yhdistämällä kuvan visuaalisten ominaisuuksien kanssa sen tekstikuvauksen.
2. Optimoidut algoritmit: Omaa kvantisointitekniikkaa, joka tasapainottaa palautusnäppäryyttä ja muistin tehokkuutta ristimodaalisissa hakukerroissa.
3. Reaaliaikainen ja offline-prosessointi: Kaksiratajärjestelmämme tukee matalan viiveen reaaliaikaisia kirjauksia ja suuren läpäisyn offline-tuontia, varmistamalla datan tuoreuden.
4. Kustannustehokkuus: Laajennetut kapasiteettimme hyödyntävät älykästä portaikko-varastoa vähentämään tallennuskustannuksia merkittävästi säilyttäen samalla suorituskyvyn.
5. Upotetut AI-mallit: Integroimalla monimodaalisen upotuksen ja sijoittelumallit, olemme laskeneet esteitä monimutkaisten hakusovellusten toteuttamiselle.

Nämä ominaisuudet mahdollistavat kehittäjille tehokkaan hallinnan monimuotoisille datatyypeille, tehdessä modernista AI-sovelluksista kestävämmän ja monipuolisemman.

Miten näet monimodaalisen RAG:n (Retrieval-Augmented Generation) edistävän AI:n kykyä käsitellä monimutkaisia, maailmanlaajuisia dataa, kuten kuvia, ääntä ja videoita rinnakkain tekstin kanssa?

Monimodaalinen RAG edustaa ratkaisevaa evoluutiota AI:ssa. Vaikka tekstipohjainen RAG on ollut merkittävä, suurin osa yritysten dataa kattaa kuvia, videoita ja ääntä. Näiden erilaisten formaattien integroimiskyky AI-työvirroissa on kriittinen.

Tämä siirtymä on ajankohtainen, koska AI-yhteisö keskustelee saatavilla olevan internet-tekstidatan rajoituksista koulutuksessa. Vaikka tekstidata on äärellinen, monimodaalinen data on edelleen laajasti hyödyntämätön – aina yritysten videoista Hollywood-elokuviin ja äänitallenteisiin.

Monimodaalinen RAG lukitsee tämän varastoidun varaston, mahdollistaen AI-järjestelmien prosessoida ja hyödyntää näitä rikkaita datatyyppejä. Se ei ole vain datan niukkuuden ratkaisemista; se on AI:n kykyjen laajentamista paremman ymmärtämisen ja vuorovaikutuksen toteuttamiseksi maailman kanssa.

Miten Zilliz erottuu kilpailijoistaan nopeasti kasvavassa vektorigraafisen tietokannan markkinassa?

Zilliz erottuu useiden ainutlaatuisten näkökohtien kautta:

1. Kaksoisidentiteetti: Olemme sekä AI-yritys että tietokantayritys, joka työntää tietohallinnan ja AI-integroinnin rajoja.
2. Pilvi-alkuperäinen suunnittelu: Milvus 2.0 oli ensimmäinen hajautettu vektorigraafinen tietokanta, joka omaksui hajautetun tallennus- ja laskentainfrastruktuurin, mahdollistaen skaalautuvuuden ja kustannustehokkuuden yli 100 miljardin vektorin osalta.
3. Omaa parannusta: Cardinal-moottorimme saavuttaa kolme kertaa avoimen lähdekoodin Milvusin suorituskyvyn ja kymmenen kertaa kilpailijoiden ylittäen. Tarjoamme myös levyperäisen indeksoinnin ja älykkään Tier-tallennuksen kustannustehokkaan skaalautumisen vuoksi.
4. Jatkuva innovaatio: Hybridihaun ominaisuuksista siirtymistyökaluihin, kuten VTS, jatkamme vektorigraafisen tietokannan teknologian edistämistä.

Sitoutuminen avoimeen lähdekoodiin takaa joustavuuden, kun taas hallittu palvelumme, Zilliz Cloud, tarjoaa yritysluokan suorituskyvyn minimoiden toiminnallisen monimutkaisuuden.

Voitko selittää Zilliz Cloudin merkitystä ja sen roolia AI:n demokratisoimisessa ja vektorigraafisen hakupalvelun saatavuuden parantamisessa sekä pienille kehittäjille että yrityksille?

Vektorigraafinen haku on ollut käytössä teknologiajätteillä vuodesta 2015, mutta omistajien toteutukset rajoittivat sen laajempaa omaksumista. Zillizissä demokratisoimme tätä teknologiaa kahden täydentävän lähestymistavan kautta:

1. Avoimen lähdekoodin: Milvus mahdollistaa kehittäjille vektorigraafisen tietokannan infrastruktuurin rakentamisen ja omistamisen, alentamalla teknisiä esteitä.
2. Hallittu palvelu: Zilliz Cloud poistaa toiminnallisen ylläpidon, tarjoamalla yksinkertaisen ja kustannustehokkaan ratkaisun liiketoiminnan vektorigraafisen haun omaksumiseksi ilman erityistä insinööritaitoa.

Tämä kaksinkertainen lähestymistapa tekee vektorigraafisen haun saataville sekä kehittäjille että yrityksille, mahdollistaen heidän keskittymisensä innovatiivisten AI-sovellusten kehittämiseen.

Miten näet LLM:ien ja perusmallien edistymisen AI-datan infrastruktuurin seuraavan suuren muutoksen?

Seuraava suuri muutos on kokonainen muodonmuutos AI-datan infrastruktuuriin strukturoimattoman datan hallitsemiseksi, joka muodostaa 90 % maailman datasta. Olemassa olevat järjestelmät, suunniteltu strukturoitua dataa varten, eivät ole soveltuvia tähän muutokseen.

Tämä muutos vaikuttaa jokaiseen datapisteen kerrokseen, aina perustuvista tietokantajärjestelmistä turvallisuusprotokollaan, havainnontajärjestelmiin ja ylläpitojärjestelmiin. Se ei ole vain pieniä päivityksiä – se on luomista uusia paradigmoja, jotka on suunniteltu strukturoimattoman datan monimutkaisuutta varten.

Tämä muutos koskee jokaista datapisteen osaa:

• Perustuvat tietokantajärjestelmät
• Dataputket ja ETL-prosessit
• Datan puhdistus- ja muunnosmekanismit
• Turvallisuus- ja salauskäytännöt
• Sääntely- ja hallintokehykset
• Datatarkkailujärjestelmät

Emme puhu vain olemassa olevien järjestelmien päivittämisestä – puhumme kokonaan uusien paradigmojen luomisesta. Se on kuin siirtymisestä maailmasta, joka on optimoitu kirjojen järjestämiseksi kirjastossa, maailmaan, joka tarvitsee hallita, ymmärtää ja prosessoida koko internetin. Tämä muutos edustaa täysin uuden maailman, jossa jokainen datan infrastruktuurin osa saattaa vaatia uudelleenkonfigurointia alusta alkaen.

Tämä vallankumous määrittelee, miten me varastoida, hallita ja prosessoida dataa, lukiten valtavat mahdollisuudet AI-innovaatioille.

Miten NVIDIA (NVDA ) -grafiikkakorttien integrointi on vaikuttanut vektorigraafisen haun suorituskykyyn ja skaalautuvuuteen?

NVIDIA-grafiikkakorttien integrointi on merkittävästi parantanut vektorigraafisen haun suorituskykyä kahdessa avainalueessa.

Ensinnäkin indeksin rakentamisessa, joka on yksi laskennallisesti raskaimmista toimista vektorigraafisissa tietokannoissa. Vertailukohtana perinteiseen tietokantaindeksointiin vektorigraafisen indeksin rakentaminen vaatii useita kertaluokkia enemmän laskentatehoa. Hyödyntämällä GPU-kiihdytystä, olemme dramaattisesti vähentäneet indeksin rakentamisajan, mahdollistaen nopeamman datan injektion ja parannetun datan näkyvyyden.

Toiseksi GPU:t ovat olleet olennaisia korkean läpäisyn kyselytapauksissa. Sovelluksissa, kuten e-commerce, joissa järjestelmien on käsiteltävä tuhansia tai jopa kymmeniä tuhansia kyselyjä sekunnissa (QPS), GPU:n rinnakkaisprosessorikapasiteetit ovat osoittautuneet arvokkaiksi. Käyttämällä GPU-kiihdytystä, voimme prosessoida tehokkaasti nämä korkean volyymin vektorigraafiset samankaltaisuushaun käyttötapauksia säilyttäen samalla matalan viiveen.

Vuodesta 2021 lähtien olemme yhteistyössä NVIDIA:n kanssa optimoidaksemme algoritmejamme GPU-arkkitehtuuriin ja kehittääksemme järjestelmäämme tukemaan heterogeenisen laskennan eri prosessoriarkkitehtuureilla. Tämä antaa asiakkaillemme joustavuuden valita sopivin laitteisto-infrastruktuuri heidän tiettyihin tarpeisiinsa.

Koska vektorigraafiset tietokannat ovat kriittisiä AI:ssa, näetkö niiden soveltamisen laajenevan perinteisistä käyttötapauksista, kuten suosittelujärjestelmistä ja hausta, aloihin kuten terveydenhuolto?

Vektorigraafiset tietokannat laajentavat nopeasti soveltamistaan perinteisistä sovelluksista, kuten suosittelujärjestelmistä ja hausta, moneen muihin aloihin, joita emme aiemmin kuvitelleet. Annaan muutamia esimerkkejä.

Terveydenhuollossa ja lääketutkimuksessa vektorigraafiset tietokannat vallankumouksellistavat lääkekehitystä. Molekyylejä voidaan vektoroida niiden toiminnallisten ominaisuuksien perusteella, ja edistyneiden ominaisuuksien, kuten etäisyyden haun, avulla tutkijat voivat löytää kaikki potentiaaliset lääkeehdokkaat, jotka voivat hoitaa tiettyjä sairauksia tai oireita. Toisin kuin perinteiset top-k-haun, etäisyyden haku tunnistaa kaikki molekyylit, jotka ovat tietyn etäisyyden päässä kohdemolekyylistä, tarjoamalla kattavan näkymän potentiaalisista ehdokkaista.

Automaattisessa ajossa vektorigraafiset tietokannat parantavat ajoneuvon turvallisuutta ja suorituskykyä. Yksi mielenkiintoinen sovellus on reunatapauksissa – kun epätavallisia tilanteita kohtaa, järjestelmä voi nopeasti etsiä massiivisista tietokannoista vastaavia koulutusdataa hienosäätääkseen autonomisen ajaminen mallit.

Näemme myös innovatiivisia sovelluksia rahoituspalveluissa petosten havaitsemiseksi, kyberTurvallisuudessa uhkien havaitsemiseksi ja kohdennetussa mainonnassa asiakasviestinnän parantamiseksi. Esimerkiksi pankkitoiminnassa transaktiot voidaan vektoroida ja verrata historiallisiin malleihin tunnistamaan potentiaalisia petosaktiivisuuksia.

Vektorigraafisten tietokantojen voima piilee niiden kyvyssä ymmärtää ja prosessoida samankaltaisuutta missä tahansa domaineissa – olipa kyse molekyylien rakenteista, ajo-tilanteista, rahoitussuhteista tai turvallisuuden uhkista. Kun AI jatkaa evoluutiotaan, olemme vasta hiertäneet pinnan, mitä on mahdollista. Kyky prosessoida ja löytää kuvioita laajoista määristä strukturoimatonta dataa avaa mahdollisuuksia, joita emme ole vielä edes tutkineet.

Miten kehittäjät ja yritykset voivat parhaiten osallistua Zilliziin ja Milvukseen hyödyntääkseen vektorigraafisen tietokantateknologian AI-projekteissaan?

On kaksi pääreittiä hyödyntää vektorigraafista tietokantateknologiaa Zillizin ja Milvusin kanssa, kumpikin sopii eri tarpeisiin ja prioriteetteihin. Jos arvostat joustavuutta ja mukautuvuutta, Milvus, avoimen lähdekoodin ratkaisumme, on paras valintasi. Milvusin kanssa voit:

• Kokeilla vapaasti ja oppia teknologiaa oman tahdin mukaan
• Mukauttaa ratkaisua tiettyihin vaatimuksiisi
• Osallistua kehitykseen ja muokata koodipohjaa
• Pitää täydellinen hallinta infrastruktuuristasi

Mutta jos haluat keskittyä sovelluksesi kehittämiseen ilman infrastruktuurin hallintaa, Zilliz Cloud on optimaalinen valintasi. Se tarjoaa:

• Pakkauksen valmiin ratkaisun yhden napsautuksen asennuksella
• Yritysluokan turvallisuuden ja säädöstenmukaisuuden
• Korkean saatavuuden ja vakauden
• Optimoidun suorituskyvyn ilman toiminnallista monimutkaisuutta

Ajattele sitä näin: jos nautit “virittelyistä” ja haluat maksimaalisen joustavuuden, valitse Milvus. Jos haluat minimoida toiminnallisen monimutkaisuuden ja ryhtyä sovelluksesi kehittämiseen, valitse Zilliz Cloud.

Molemmat polut vievät sinut määränpäähäsi – se on vain kyse siitä, kuinka paljon matkasta haluat hallita ja kuinka nopeasti tarvitset saapua perille

Kiitos hienosta haastattelusta. Lukijat, jotka haluavat oppia lisää, voivat vierailla Zilliz tai Milvus -sivustolla.