Charles Xie, Gründer und CEO von Zilliz – Interviewreihe

Charles Xie ist der Gründer und CEO von Zilliz, das sich auf den Bau von Next-Generation-Datenbanken und Suchtechnologien für AI- und LLM-Anwendungen konzentriert. Bei Zilliz hat er auch Milvus erfunden, die weltweit beliebteste Open-Source-Vektor-Datenbank für produktionsbereite KI. Er ist derzeit Mitglied des Vorstands der LF AI & Data Foundation und war 2020 und 2021 Vorsitzender des Vorstands. Charles arbeitete zuvor bei Oracle (ORCL ) als Gründungsingenieur des Oracle 12c-Cloud-Datenbankprojekts. Charles hält einen Master-Abschluss in Informatik von der University of Wisconsin-Madison.

Zilliz ist das Team hinter LF AI Milvus®, einer weit verbreiteten Open-Source-Vektor-Datenbank. Das Unternehmen konzentriert sich auf die Vereinfachung der Dateninfrastrukturverwaltung, um KI für Unternehmen, Organisationen und Einzelpersonen zugänglicher zu machen.

Können Sie die Geschichte hinter der Gründung von Zilliz erzählen und was Sie inspiriert hat, Milvus zu entwickeln und sich auf Vektor-Datenbanken zu konzentrieren?

Meine Reise im Datenbankbereich umfasst über 15 Jahre, einschließlich sechs Jahren als Software-Ingenieur bei Oracle, wo ich ein Gründungsmitglied des Oracle 12c-Multitenant-Database-Teams war. Während dieser Zeit bemerkte ich eine wichtige Einschränkung: Während strukturierte Daten gut verwaltet wurden, blieben unstrukturierte Daten, die 90% aller Daten ausmachen, weitgehend ungenutzt, mit nur 1% sinnvoller Analyse.

Im Jahr 2017 markierte die wachsende Fähigkeit von KI, unstrukturierte Daten zu verarbeiten, einen Wendepunkt. Fortschritte in der NLP zeigten, wie unstrukturierte Daten in Vektor-Embeddings umgewandelt werden konnten, wodurch ihre semantische Bedeutung entschlüsselt wurde. Dies inspirierte mich, Zilliz zu gründen, mit der Vision, “Zillonen von Daten” zu verwalten. Vektor-Embeddings wurden zum Eckpfeiler für die Überbrückung der Lücke zwischen unstrukturierten Daten und handlungsfähigen Erkenntnissen. Wir entwickelten Milvus als speziell entwickelte Vektor-Datenbank, um diese Vision zum Leben zu erwecken.

Im Laufe der letzten zwei Jahre hat die Branche diesen Ansatz bestätigt und Vektor-Datenbanken als grundlegend für die Verwaltung von unstrukturierten Daten anerkannt. Für uns geht es nicht nur um Technologie, sondern darum, die Menschheit zu befähigen, das Potenzial von unstrukturierten Daten in der KI-Ära zu nutzen.

Wie hat sich die Reise von Zilliz seit ihrer Gründung vor sechs Jahren entwickelt, und welche Herausforderungen haben Sie bei der Erschließung des Vektor-Datenbank-Marktes erlebt?

Die Reise war transformierend. Als wir Zilliz vor sieben Jahren gründeten, bestand die größte Herausforderung nicht im Fundraising oder der Einstellung von Mitarbeitern, sondern darin, ein Produkt in völlig unerforschtem Gebiet zu entwickeln. Ohne bestehende Roadmaps, Best Practices oder etablierte Benutzererwartungen mussten wir unseren eigenen Kurs charten.

Unser Durchbruch kam mit der Open-Source-Veröffentlichung von Milvus. Indem wir die Barrieren für die Adoption senkten und die Community-Interaktion förderten, erhielten wir wertvolles Benutzer-Feedback, um das Produkt zu iterieren und zu verbessern. Als Milvus 2019 startete, hatten wir etwa 30 Benutzer bis zum Jahresende. Dies wuchs auf über 200 im Jahr 2020 und fast 1.000 bald darauf.

Heute haben sich Vektor-Datenbanken von einem neuartigen Konzept zu wesentlicher Infrastruktur in der KI-Ära entwickelt, was die Vision bestätigt, mit der wir begonnen haben.

Als Vektor-Datenbank-Unternehmen, welche einzigartigen technischen Fähigkeiten bietet Zilliz, um multimodale Vektor-Suche in modernen KI-Anwendungen zu unterstützen?

Zilliz hat fortschrittliche technische Fähigkeiten entwickelt, um multimodale Vektor-Suche zu unterstützen:

1. Hybrid-Suche: Wir ermöglichen simultane Suchen über verschiedene Modalitäten, wie die Kombination der visuellen Merkmale eines Bildes mit seiner Textbeschreibung.
2. Optimierte Algorithmen: Proprietäre Quantisierungstechniken balancieren Recall-Genauigkeit und Speichereffizienz für cross-modale Suchen.
3. Echtzeit- und Offline-Verarbeitung: Unser Dual-Track-System unterstützt niedrige Latenz bei Echtzeit-Schreibvorgängen und hohe Durchsatzleistung bei Offline-Importen, um Datenfrische zu gewährleisten.
4. Kosten-Effizienz: Unsere erweiterten Kapazitätsinstanzen nutzen intelligente Tiered Storage, um Speicherkosten erheblich zu reduzieren, während die Leistung erhalten bleibt.
5. Integrierte KI-Modelle: Durch die Integration von multimodalen Embedding- und Ranking-Modellen haben wir die Hürde für die Implementierung komplexer Suchanwendungen gesenkt.

Diese Fähigkeiten ermöglichen es Entwicklern, diverse Datenarten effizient zu verarbeiten, wodurch moderne KI-Anwendungen robuster und vielseitiger werden.

Wie sehen Sie die Weiterentwicklung von Multimodal RAG, um KI bei der Verarbeitung komplexer realer Daten wie Bildern, Audio und Videos neben Text zu unterstützen?

Multimodale RAG (Retrieval-Augmented Generation) stellt eine entscheidende Evolution in KI dar. Während textbasierte RAG prominent war, umfasst die meisten Unternehmensdaten Bilder, Videos und Audio. Die Fähigkeit, diese verschiedenen Formate in KI-Workflows zu integrieren, ist entscheidend.

Diese Verschiebung ist zeitgemäß, da die KI-Gemeinschaft die Grenzen verfügbarer Internet-Textdaten für die Schulung diskutiert. Während Textdaten endlich sind, bleibt multimodales Datenmaterial weitgehend ungenutzt – von Unternehmensvideos bis hin zu Hollywood-Filmen und Audio-Aufnahmen.

Multimodale RAG schließt diese ungenutzte Ressource auf, ermöglicht es KI-Systemen, diese reichen Datenarten zu verarbeiten und zu nutzen. Es geht nicht nur darum, Datenknappheit zu bekämpfen, sondern vielmehr darum, die Fähigkeiten von KI zu erweitern, um die reale Welt besser zu verstehen und zu interagieren.

Wie unterscheidet sich Zilliz von Wettbewerbern im rasch wachsenden Vektor-Datenbank-Markt?

Zilliz hebt sich durch mehrere einzigartige Aspekte ab:

1. Doppelte Identität: Wir sind sowohl ein KI-Unternehmen als auch ein Datenbank-Unternehmen, das die Grenzen von Datenverwaltung und KI-Integration vorantreibt.
2. Cloud-Native-Design: Milvus 2.0 war die erste verteilte Vektor-Datenbank, die eine disaggregierte Speicher- und Rechenarchitektur übernahm, um Skalierbarkeit und Kosteneffizienz für über 100 Milliarden Vektoren zu ermöglichen.
3. Proprietäre Verbesserungen: Unser Cardinal-Engine erreicht das Dreifache der Leistung von Open-Source-Milvus und das Zehnfache gegenüber Wettbewerbern. Wir bieten auch diskbasiertes Indexing und intelligente Tiered Storage für kosteneffizientes Skalieren.
4. Laufende Innovation: Von Hybrid-Suchfunktionen bis hin zu Migrationstools wie VTS arbeiten wir kontinuierlich an der Weiterentwicklung von Vektor-Datenbank-Technologie.

Unser Engagement für Open Source gewährleistet Flexibilität, während unser Managed-Service, Zilliz Cloud, unternehmensgrade Leistung mit minimalem operativem Aufwand bietet.

Können Sie die Bedeutung von Zilliz Cloud und ihre Rolle bei der Demokratisierung von KI und der Bereitstellung von Vektor-Suchdiensten für kleine Entwickler und Unternehmen gleichermaßen erläutern?

Vektor-Suche wurde seit 2015 von Technologie-Giganten genutzt, aber proprietäre Implementierungen begrenzten ihre breitere Akzeptanz. Bei Zilliz demokratisieren wir diese Technologie durch zwei komplementäre Ansätze:

1. Open Source: Milvus ermöglicht es Entwicklern, ihre eigene Vektor-Such-Infrastruktur aufzubauen und zu besitzen, wodurch technische Hürden gesenkt werden.
2. Managed Service: Zilliz Cloud eliminiert den operativen Aufwand und bietet eine einfache, kosteneffiziente Lösung für Unternehmen, um Vektor-Suche zu adoptieren, ohne spezielle Ingenieure benötigen.

Dieser doppelte Ansatz macht Vektor-Suche für Entwickler und Unternehmen gleichermaßen zugänglich, sodass sie sich auf den Bau innovativer KI-Anwendungen konzentrieren können.

Angesichts der Fortschritte in LLMs und Grundmodellen, was glauben Sie, wird der nächste große Schritt in der KI-Daten-Infrastruktur sein?

Der nächste große Schritt wird die umfassende Umwandlung der KI-Daten-Infrastruktur sein, um unstrukturierte Daten zu verarbeiten, die 90% aller Daten ausmachen. Bestehende Systeme, die für strukturierte Daten konzipiert sind, sind für diesen Schritt nicht ausreichend.

Diese Umwandlung wird jeden Aspekt des Daten-Stacks beeinflussen:

• Grundlegende Datenbank-Systeme
• Daten-Pipelines und ETL-Prozesse
• Daten-Reinigungs- und Transformations-Mechanismen
• Sicherheits- und Verschlüsselungs-Protokolle
• Compliance- und Governance-Rahmen
• Daten-Beobachtungs-Systeme

Wir sprechen nicht nur über inkrementelle Upgrades – wir sprechen über die Schaffung neuer Paradigmen, die auf die Komplexität von unstrukturierten Daten zugeschnitten sind. Es ist, als ob man von einer Welt, die auf die Organisation von Büchern in einer Bibliothek optimiert ist, zu einer Welt wechselt, die das gesamte Internet verwalten, verstehen und verarbeiten muss. Dieser Schritt stellt eine völlig neue Welt dar, in der möglicherweise jeder Komponente der Daten-Infrastruktur neu konzipiert werden muss.

Diese Revolution wird neu definieren, wie wir Daten speichern, verwalten und verarbeiten, und enorme Möglichkeiten für KI-Innovationen eröffnen.

Wie hat die Integration von NVIDIA (NVDA ) -GPUs die Leistung und Skalierbarkeit Ihrer Vektor-Suche beeinflusst?

Die Integration von NVIDIA-GPUs hat die Leistung unserer Vektor-Suche in zwei wichtigen Bereichen erheblich verbessert.

Erstens bei der Index-Erstellung, die einer der rechenintensivsten Operationen in Vektor-Datenbanken ist. Im Vergleich zur traditionellen Datenbank-Indexierung erfordert die Konstruktion von Vektor-Indizes mehrere Größenordnungen mehr Rechenleistung. Durch die Nutzung von GPU-Beschleunigung haben wir die Index-Erstellungszeit dramatisch reduziert, was eine schnellere Datenaufnahme und verbesserte Daten-Sichtbarkeit ermöglicht.

Zweitens haben GPUs bei Hochdurchsatz-Abfrage-Anwendungsfällen, wie in E-Commerce, wo Systeme Tausende oder sogar Zehntausende von Abfragen pro Sekunde (QPS) verarbeiten müssen, ihre Wichtigkeit unter Beweis gestellt. Durch die Nutzung von GPU-Beschleunigung können wir diese Hochvolumen-Vektor-Ähnlichkeitssuchen effizient verarbeiten und gleichzeitig niedrige Latenzzeiten aufrechterhalten.

Seit 2021 arbeiten wir mit NVIDIA zusammen, um unsere Algorithmen für die GPU-Architektur zu optimieren, während wir auch unser System für heterogene Rechnung auf verschiedenen Prozessor-Architekturen entwickeln. Dies gibt unseren Kunden die Flexibilität, die am besten geeignete Hardware-Infrastruktur für ihre spezifischen Bedürfnisse auszuwählen.

Da Vektor-Datenbanken eine entscheidende Rolle in KI spielen, sehen Sie ihre Anwendung über traditionelle Anwendungsfälle wie Empfehlungssysteme und Suche hinaus in Branchen wie Gesundheitswesen?

Vektor-Datenbanken breiten sich rasch über traditionelle Anwendungen wie Empfehlungssysteme und Suche hinaus aus und dringen in Branchen ein, die wir nie zuvor in Betracht gezogen haben. Lassen Sie mich einige Beispiele nennen.

In Gesundheits- und Pharmaforschung revolutionieren Vektor-Datenbanken die Arzneimittelentdeckung. Moleküle können basierend auf ihren funktionellen Eigenschaften vektorisiert und mithilfe von erweiterten Funktionen wie Bereichssuche können Forscher alle potenziellen Arzneimittelkandidaten identifizieren, die bestimmte Krankheiten oder Symptome behandeln könnten. Im Gegensatz zu herkömmlichen Top-k-Suchen identifiziert die Bereichssuche alle Moleküle innerhalb eines bestimmten Abstands vom Ziel, wodurch ein umfassender Überblick über potenzielle Kandidaten gewonnen wird.

In der autonomen Fahrzeugtechnik verbessern Vektor-Datenbanken die Fahrzeugsicherheit und -leistung. Eine interessante Anwendung ist die Verarbeitung von Randfällen – wenn ungewöhnliche Szenarien auftreten, kann das System schnell durch massive Datenbanken ähnlicher Situationen suchen, um relevante Trainingsdaten für die Feinabstimmung der autonomen Fahrmodelle zu finden.

Wir sehen auch innovative Anwendungen in Finanzdienstleistungen für Betrugsbekämpfung, in der Cybersicherheit für Bedrohungserkennung und in der gezielten Werbung für eine verbesserte Kundenbindung. Beispielsweise können in der Bankenbranche Transaktionen vektorisiert und mit historischen Mustern verglichen werden, um potenzielle betrügerische Aktivitäten zu identifizieren.

Die Macht von Vektor-Datenbanken liegt in ihrer Fähigkeit, Ähnlichkeit in jedem Bereich zu verstehen und zu verarbeiten – sei es molekulare Strukturen, Fahrzeugszenarien, Finanzmuster oder Sicherheitsbedrohungen. Da KI weiterhin evolviert, haben wir nur gerade die Oberfläche dessen, was möglich ist, angekratzt. Die Fähigkeit, große Mengen unstrukturierter Daten effizient zu verarbeiten und Muster zu erkennen, eröffnet Möglichkeiten, die wir gerade erst zu erkunden beginnen.

Wie können Entwickler und Unternehmen am besten mit Zilliz und Milvus interagieren, um Vektor-Datenbank-Technologie in ihre KI-Projekte zu integrieren?

Es gibt zwei Hauptwege, um Vektor-Datenbank-Technologie mit Zilliz und Milvus zu nutzen, die jeweils für unterschiedliche Bedürfnisse und Prioritäten geeignet sind. Wenn Sie Flexibilität und Anpassungsfähigkeit schätzen, ist Milvus, unsere Open-Source-Lösung, die beste Wahl. Mit Milvus können Sie:

• Kostenlos experimentieren und die Technologie in Ihrem eigenen Tempo lernen
• Die Lösung an Ihre spezifischen Anforderungen anpassen
• Beitragen zur Entwicklung und den Codebase modifizieren
• Vollständige Kontrolle über Ihre Infrastruktur behalten

Wenn Sie jedoch darauf Wert legen, Ihre Anwendung ohne Infrastruktur-Management zu bauen, ist Zilliz Cloud die optimale Wahl. Sie bietet:

• Eine Out-of-the-Box-Lösung mit einer Klick-Installation
• Unternehmensgrade Sicherheit und Compliance
• Hohe Verfügbarkeit und Stabilität
• Optimierte Leistung ohne operativen Aufwand

Denken Sie daran: Wenn Sie “tinkern” und maximale Flexibilität bevorzugen, wählen Sie Milvus. Wenn Sie den operativen Aufwand minimieren und direkt mit dem Aufbau Ihrer Anwendung beginnen möchten, wählen Sie Zilliz Cloud.

Beide Wege führen Sie zu Ihrem Ziel – es ist nur eine Frage, wie viel der Reise Sie kontrollieren möchten, im Vergleich zu wie schnell Sie ankommen müssen

Vielen Dank für das großartige Interview. Leser, die mehr erfahren möchten, sollten Zilliz oder Milvus besuchen.