Charles Xie, Założyciel i Dyrektor Generalny Zilliz – Seria Wywiadów

Charles Xie jest założycielem i dyrektorem generalnym Zilliz, skupiając się na budowaniu następnej generacji baz danych i technologii wyszukiwania dla aplikacji AI i LLM. W Zilliz, wymyślił również Milvus, najpopularniejszą na świecie otwartoźródłową bazę danych wektorowych dla gotowych do produkcji AI. Jest obecnie członkiem zarządu LF AI & Data Foundation i pełnił funkcję przewodniczącego zarządu w 2020 i 2021 roku. Charles wcześniej pracował w Oracle (ORCL ) jako inżynier założyciel projektu bazy danych Oracle 12c. Charles posiada tytuł magistra w dziedzinie informatyki na Uniwersytecie Wisconsin-Madison.

Zilliz to zespół odpowiedzialny za LF AI Milvus®, szeroko stosowaną otwartoźródłową bazę danych wektorowych. Firma koncentruje się na uproszczeniu zarządzania infrastrukturą danych, mając na celu uczynienie AI bardziej dostępnym dla korporacji, organizacji i osób indywidualnych.

Czy mógłbyś podzielić się historią założenia Zilliz i tym, co zainspirowało Cię do opracowania Milvus i skupienia się na bazach danych wektorowych?

Moja podróż w dziedzinie baz danych trwa ponad 15 lat, w tym sześć lat jako inżynier oprogramowania w Oracle, gdzie byłem członkiem założycielem zespołu Oracle 12c Multitenant Database. Podczas tego czasu zauważyłem kluczowe ograniczenie: chociaż dane strukturalne były dobrze zarządzane, dane niestrukturalne – reprezentujące 90% wszystkich danych – pozostawały w dużej mierze niewykorzystane, a tylko 1% było analizowane w sposób znaczący.

W 2017 roku rosnąca zdolność AI do przetwarzania danych niestrukturalnych oznaczała punkt zwrotny. Postępy w NLP pokazały, jak dane niestrukturalne mogą być przekształcone w wektory, odblokowując ich semantyczne znaczenie. To zainspirowało mnie do założenia Zilliz, z wizją zarządzania “zillionami danych”. Wektory stały się kamieniem węgielnym dla mostu między danymi niestrukturalnymi a działaniami.

W ciągu ostatnich dwóch lat, branża potwierdziła ten podejście, uznając bazy danych wektorowych za podstawowe dla zarządzania danymi niestrukturalnymi. Dla nas, chodzi o coś więcej niż technologie – chodzi o umożliwienie ludzkości wykorzystania potencjału danych niestrukturalnych w erze AI.

Jak ewoluowała podróż Zilliz od jej powstania sześć lat temu, a jakie kluczowe wyzwania stawałeś napotkałeś, przełamując przestrzeń baz danych wektorowych?

Podróż była przełomowa. Kiedy zaczynaliśmy Zilliz siedem lat temu, prawdziwym wyzwaniem nie było pozyskanie funduszy ani rekrutacja – było to budowanie produktu w zupełnie niezbadanym terytorium. Bez istniejących map drogowych, najlepszych praktyk ani ustanowionych oczekiwań użytkowników, musieliśmy wytyczyć własną drogę.

Naszym przełomem było udostępnienie Milvus na zasadach open source. Poprzez obniżenie barier dla przyjęcia i wspieranie zaangażowania społeczności, uzyskaliśmy niezwykle cenne informacje zwrotne od użytkowników, aby iterować i udoskonalać produkt. Kiedy Milvus został uruchomiony w 2019 roku, mieliśmy około 30 użytkowników do końca roku. To wzrosło do ponad 200 w 2020 roku i niemal 1,000 nieco później.

Dziś, bazy danych wektorowych przesunęły się od nowej koncepcji do niezbędnej infrastruktury w erze AI, potwierdzając wizję, z którą zaczynaliśmy.

Jako firma baz danych wektorowych, jakie unikalne możliwości techniczne oferuje Zilliz, aby wspierać wielomodalne wyszukiwanie wektorowe w nowoczesnych aplikacjach AI?

Zilliz opracował zaawansowane możliwości techniczne, aby wspierać wielomodalne wyszukiwanie wektorowe:

1. Wyszukiwanie hybrydowe: Umożliwiamy jednoczesne wyszukiwania w różnych modalnościach, takich jak łączenie wizualnych cech obrazu z jego opisem tekstowym.
2. Optymalizowane algorytmy: Własne techniki kwantyzacji równoważą dokładność odwołania i wydajność pamięci dla wyszukiwań międzymodalnych.
3. Przetwarzanie w czasie rzeczywistym i offline: Nasz system dwutorowy wspiera niską latencję w czasie rzeczywistym i wysokowydajne importy offline, zapewniając świeżość danych.
4. Efektywność kosztowa: Nasze instancje Extended Capacity wykorzystują inteligentne Tiered Storage, aby znacznie obniżyć koszty przechowywania, utrzymując przy tym wysoką wydajność.
5. Wbudowane modele AI: Poprzez integrację wielomodalnych modeli osadzania i rankingowych, obniżyliśmy barierę dla wdrożenia złożonych aplikacji wyszukiwania.

Te możliwości pozwalają deweloperom na efektywne zarządzanie różnorodnymi typami danych, czyniąc nowoczesne aplikacje AI bardziej solidnymi i wszechstronnymi.

Jak widzisz postęp Wielomodalnego RAG w zwiększaniu zdolności AI do radzenia sobie z złożonymi, rzeczywistymi danymi, takimi jak obrazy, dźwięk i filmy, obok tekstu?

Wielomodalny RAG (Retrieval-Augmented Generation) reprezentuje przełomową ewolucję w AI. Chociaż tekstowe RAG były dominujące, większość danych przedsiębiorstw obejmuje obrazy, filmy i dźwięk. Możliwość integracji tych różnorodnych formatów do przepływów pracy AI jest krytyczna.

Ten zwrot jest terminowy, ponieważ społeczność AI debatuje nad ograniczeniami dostępnych danych internetowych do szkolenia. Chociaż dane tekstowe są skończone, dane wielomodalne pozostają w dużej mierze niewykorzystane – od korporacyjnych filmów po nagrania audio.

Wielomodalny RAG odblokowuje ten niewykorzystany zbiornik, umożliwiając systemom AI przetwarzanie i wykorzystywanie tych bogatych typów danych. To nie tylko kwestia rozwiązania problemu niedoboru danych; to kwestia poszerzania granic możliwości AI, aby lepiej zrozumieć i wchodzić w interakcje ze światem rzeczywistym.

Jak Zilliz wyróżnia się na tle konkurentów na dynamicznie rozwijającym się rynku baz danych wektorowych?

Zilliz wyróżnia się kilkoma unikalnymi aspektami:

1. Podwójna tożsamość: Jesteśmy firmą AI i firmą baz danych, przekraczając granice zarządzania danymi i integracji AI.
2. Chmura-natywny projekt: Milvus 2.0 był pierwszą rozproszoną bazą danych wektorowych, która przyjęła architekturę magazynowania i obliczeń, umożliwiając skalowalność i efektywność kosztową dla ponad 100 miliardów wektorów.
3. Własne udoskonalenia: Nasz silnik Cardinal osiąga trzykrotnie lepszą wydajność niż otwarty Milvus i dziesięciokrotnie lepszą niż konkurenci. Oferujemy również indeksowanie na dysku i inteligentne Tier Storage do efektywnej skalowalności.
4. Ciągła innowacja: Od funkcji wyszukiwania hybrydowego po narzędzia migracyjne, takie jak VTS, ciągle rozwijamy technologię baz danych wektorowych.

Nasze zaangażowanie w otwarte źródło zapewnia elastyczność, a nasza usługa zarządzana, Zilliz Cloud, dostarcza wydajność na poziomie przedsiębiorstwa z minimalnymi złożonościami operacyjnymi.

Czy mógłbyś wyjaśnić znaczenie Zilliz Cloud i jego rolę w demokratyzowaniu AI oraz udostępnianiu usług wyszukiwania wektorowego małym deweloperom i przedsiębiorstwom?

Wyszukiwanie wektorowe było stosowane przez gigantów technologicznych od 2015 roku, ale wdrożenia własne ograniczały jego szersze przyjęcie. W Zilliz, demokratyzujemy tę technologię za pomocą dwóch komplementarnych podejść:

1. Otwarte źródło: Milvus pozwala deweloperom na budowanie i posiadanie swojej infrastruktury wyszukiwania wektorowego, obniżając bariery techniczne.
2. Usługa zarządzana: Zilliz Cloud eliminuje złożoności operacyjne, oferując prostą i efektywną kosztowo rozwiązanie dla firm, aby przyjąć wyszukiwanie wektorowe bez wymogu specjalistycznych inżynierów.

To podwójne podejście sprawia, że wyszukiwanie wektorowe staje się dostępne zarówno dla deweloperów, jak i przedsiębiorstw, umożliwiając im skoncentrowanie się na budowaniu innowacyjnych aplikacji AI.

Z postępem w LLM i modelach podstawowych, co uważasz, że będzie następnym wielkim zwrotem w infrastrukturze danych AI?

Następny wielki zwrot będzie całościowa transformacja infrastruktury danych AI, aby poradzić sobie z danymi niestrukturalnymi, które stanowią 90% wszystkich danych. Istniejące systemy, zaprojektowane dla danych strukturalnych, są nieodpowiednie dla tego zwrotu.

Ta transformacja wpłynie na każdą warstwę stosu danych, od podstawowych systemów baz danych po protokoły bezpieczeństwa i systemy obserwacyjne. To nie jest kwestia stopniowych ulepszeń – to kwestia tworzenia nowych paradygmatów dostosowanych do złożoności danych niestrukturalnych.

Ta transformacja dotknie każdy aspekt stosu danych:

• Podstawowe systemy baz danych
• Procesy ETL i potoki danych
• Mechanizmy czyszczenia i transformacji danych
• Protokoły bezpieczeństwa i szyfrowania
• Ramy zgodności i zarządzania
• Systemy obserwacyjne danych

Nie mówimy tylko o ulepszaniu istniejących systemów – mówimy o budowaniu całkowicie nowych paradygmatów. To jak przechodzenie ze świata zoptymalizowanego dla organizacji książek w bibliotece do świata, który musi zarządzać, zrozumieć i przetwarzać cały internet. Ten zwrot reprezentuje nowy świat, w którym każdy komponent infrastruktury danych może wymagać ponownego wyobrażenia od podstaw.

Ta rewolucja zdefiniuje, jak przechowujemy, zarządzamy i przetwarzamy dane, odblokowując ogromne możliwości innowacji AI.

Jak integracja NVIDIA GPU wpłynęła na wydajność i skalowalność Twojego wyszukiwania wektorowego?

Integracja NVIDIA GPU znacznie poprawiła naszą wydajność wyszukiwania wektorowego w dwóch kluczowych obszarach.

Po pierwsze, w budowaniu indeksu, które jest jedną z najbardziej wymagających obliczeniowo operacji w bazach danych wektorowych. W porównaniu z tradycyjnym indeksowaniem baz danych, konstrukcja indeksu wektorowego wymaga kilku rzędów wielkości więcej mocy obliczeniowej. Poprzez wykorzystanie przyspieszenia GPU, znacznie zredukowaliśmy czas budowy indeksu, umożliwiając szybsze pobieranie danych i lepszą widoczność.

Po drugie, GPU okazały się niezwykle przydatne w przypadku wysokowydajnych przypadków użycia zapytań. W aplikacjach takich jak e-commerce, gdzie systemy muszą obsługiwać tysiące lub nawet dziesiątki tysięcy zapytań na sekundę (QPS), możliwości przetwarzania równoległego GPU okazały się niezwykle cenne. Poprzez wykorzystanie przyspieszenia GPU, możemy efektywnie przetwarzać te wysokowolumenowe wyszukiwania wektorowe podobieństwa, utrzymując przy tym niską latencję.

Od 2021 roku współpracujemy z NVIDIA (NVDA ), aby zoptymalizować nasze algorytmy dla architektury GPU, a także rozwijać nasz system, aby wspierać heterogeniczne obliczenia na różnych architekturach procesorów. To daje naszym klientom elastyczność w wyborze najbardziej odpowiedniej infrastruktury sprzętowej dla ich konkretnych potrzeb.

Czy widzisz zastosowanie baz danych wektorowych w przyszłości w branżach takich jak opieka zdrowotna?

Bazy danych wektorowe szybko rozszerzają się poza tradycyjne aplikacje, takie jak systemy rekomendacji i wyszukiwania, przenikając branże, których wcześniej nie braliśmy pod uwagę. Pozwól, że podzielę się kilkoma przykładami.

W opiece zdrowotnej i badaniach farmaceutycznych, bazy danych wektorowe rewolucjonizują odkrywanie leków. Cząsteczki mogą być wektorowane na podstawie ich właściwości funkcjonalnych, a przy użyciu zaawansowanych funkcji, takich jak wyszukiwanie zakresowe, badacze mogą odkryć wszystkie potencjalne kandydatów na leki, które mogą leczyć określone choroby lub objawy. W przeciwieństwie do tradycyjnych wyszukiwań top-k, wyszukiwanie zakresowe identyfikuje wszystkie cząsteczki w określonej odległości od celu, zapewniając kompleksowy widok potencjalnych kandydatów.

W prowadzeniu pojazdów autonomicznych, bazy danych wektorowe poprawiają bezpieczeństwo i wydajność pojazdów. Jednym z interesujących zastosowań jest radzenie sobie z przypadkami brzegowymi – gdy pojazd napotka niezwykłe sytuacje, system może szybko przeszukać ogromne bazy danych podobnych sytuacji, aby znaleźć odpowiednie dane szkoleniowe do dokształcenia modeli prowadzenia pojazdu.

Widzimy również innowacyjne zastosowania w usługach finansowych do wykrywania oszustw, w cyberbezpieczeństwie do wykrywania zagrożeń, a także w reklamach ukierunkowanych na poprawę zaangażowania klientów. Na przykład w bankowości, transakcje mogą być wektorowane i porównywane z historycznymi wzorcami, aby zidentyfikować potencjalne działania oszustw.

Moc baz danych wektorowych leży w ich zdolności do zrozumienia i przetwarzania podobieństwa w dowolnej dziedzinie – czy to molekularnych struktur, scenariuszy prowadzenia, wzorców finansowych czy zagrożeń bezpieczeństwa. Im dalej rozwija się AI, tym bardziej tylko zaczynamy odkrywać, co jest możliwe. Możliwość efektywnej obróbki i znajdowania wzorców w ogromnych ilościach danych niestrukturalnych otwiera możliwości, których dopiero zaczynamy się domyślać.

Jak deweloperzy i przedsiębiorstwa mogą najlepiej zaangażować się w Zilliz i Milvus, aby wykorzystać technologię baz danych wektorowych w swoich projektach AI?

Istnieją dwie główne ścieżki, aby wykorzystać technologię baz danych wektorowych z Zilliz i Milvus, każda odpowiednia dla różnych potrzeb i priorytetów. Jeśli cenisz elastyczność i dostosowanie, Milvus, nasze rozwiązanie open source, jest Twoim najlepszym wyborem. Z Milvus, możesz:

• Eksperymentować swobodnie i uczyć się technologii w własnym tempie
• Dostosowywać rozwiązanie do swoich konkretnych wymagań
• Wkładać się w rozwój i modyfikować kod
• Utrzymywać pełną kontrolę nad swoją infrastrukturą

Jednak jeśli chcesz się skoncentrować na budowaniu swojej aplikacji bez zarządzania infrastrukturą, Zilliz Cloud jest optymalnym wyborem. Oferuje:

• Gotowe rozwiązanie z wdrożeniem jednym kliknięciem
• Bezpieczeństwo i zgodność na poziomie przedsiębiorstwa
• Wysoka dostępność i stabilność
• Wydajność zoptymalizowana bez złożoności operacyjnej

Myśl o tym w ten sposób: jeśli lubisz “majsterkowanie” i chcesz maksymalnej elastyczności, wybierz Milvus. Jeśli chcesz minimalizować złożoności operacyjne i szybko przystąpić do budowy swojej aplikacji, wybierz Zilliz Cloud.

Obie ścieżki doprowadzą Cię do celu – to tylko kwestia, ile z tej podróży chcesz kontrolować, a ile szybkości potrzebujesz, aby do niej dojść

Dziękujemy za wspaniały wywiad, czytelnicy, którzy chcą dowiedzieć się więcej, powinni odwiedzić Zilliz lub Milvus.