Charles Xie, Pendiri & CEO Zilliz – Seri Wawancara

Charles Xie adalah pendiri dan CEO Zilliz, yang fokus pada membangun database dan teknologi pencarian generasi berikutnya untuk aplikasi AI dan LLM. Di Zilliz, ia juga menciptakan Milvus, database vektor open-source paling populer untuk produksi AI yang siap digunakan. Ia saat ini merupakan anggota dewan LF AI & Data Foundation dan menjabat sebagai ketua dewan pada tahun 2020 dan 2021. Charles sebelumnya bekerja di Oracle (ORCL ) sebagai insinyur pendiri proyek database cloud Oracle 12c. Charles memegang gelar master dalam ilmu komputer dari Universitas Wisconsin-Madison.

Zilliz adalah tim di balik LF AI Milvus®, database vektor open-source yang banyak digunakan. Perusahaan ini fokus pada menyederhanakan manajemen infrastruktur data, dengan tujuan membuat AI lebih mudah diakses oleh perusahaan, organisasi, dan individu.

Apakah Anda dapat berbagi cerita tentang mendirikan Zilliz dan apa yang menginspirasi Anda untuk mengembangkan Milvus dan fokus pada database vektor?

Perjalanan saya di bidang database telah berlangsung selama lebih dari 15 tahun, termasuk enam tahun sebagai insinyur perangkat lunak di Oracle, di mana saya merupakan anggota pendiri tim Database Multitenant Oracle 12c. Selama waktu itu, saya menyadari keterbatasan utama: sementara data terstruktur dikelola dengan baik, data tidak terstruktur—yang mewakili 90% dari semua data—tetap tidak terjamah, dengan hanya 1% dianalisis secara bermakna.

Pada tahun 2017, kemampuan AI yang semakin meningkat untuk memproses data tidak terstruktur menandai titik balik. Kemajuan dalam NLP menunjukkan bagaimana data tidak terstruktur dapat diubah menjadi embedding vektor, membuka makna semantiknya. Ini menginspirasi saya untuk mendirikan Zilliz, dengan visi untuk mengelola “milyaran data”. Embedding vektor menjadi fondasi untuk menjembatani kesenjangan antara data tidak terstruktur dan wawasan yang dapat digunakan. Kami mengembangkan Milvus sebagai database vektor yang dirancang khusus untuk mewujudkan visi ini.

Selama dua tahun terakhir, industri telah memvalidasi pendekatan ini, mengakui database vektor sebagai fondasi untuk mengelola data tidak terstruktur. Bagi kami, ini lebih dari sekadar teknologi—ini tentang memberdayakan umat manusia untuk memanfaatkan potensi data tidak terstruktur di era AI.

Bagaimana perjalanan Zilliz berkembang sejak pendiriannya enam tahun yang lalu, dan apa tantangan utama yang Anda hadapi saat mempelopori ruang database vektor?

Perjalanan telah berubah secara signifikan. Ketika kami memulai Zilliz tujuh tahun yang lalu, tantangan nyata bukanlah penggalangan dana atau perekrutan—tetapi membangun produk di wilayah yang belum dipetakan. Tanpa peta jalan, praktik terbaik, atau harapan pengguna yang mapan, kami harus memetakan jalur kami sendiri.

Pelangkah besar kami datang dengan open-sourcing Milvus. Dengan menurunkan hambatan adopsi dan memfasilitasi keterlibatan komunitas, kami memperoleh umpan balik pengguna yang tak ternilai untuk mengulangi dan memperbaiki produk. Ketika Milvus diluncurkan pada tahun 2019, kami memiliki sekitar 30 pengguna pada akhir tahun. Ini tumbuh menjadi lebih dari 200 pada tahun 2020 dan hampir 1.000 tak lama kemudian.

Saat ini, database vektor telah bergeser dari konsep novel menjadi infrastruktur esensial di era AI, memvalidasi visi yang kami mulai.

Sebagai perusahaan database vektor, apa kemampuan teknis unik yang ditawarkan Zilliz untuk mendukung pencarian vektor multimodal di aplikasi AI modern?

Zilliz telah mengembangkan kemampuan teknis canggih untuk mendukung pencarian vektor multimodal:

1. Pencarian Hibrida: Kami memungkinkan pencarian serentak di berbagai modalitas, seperti menggabungkan fitur visual gambar dengan deskripsi teksnya.
2. Algoritma yang Dioptimalkan: Teknik kuantisasi khusus kami mempertahankan keseimbangan antara akurasi recall dan efisiensi memori untuk pencarian cross-modal.
3. Pengolahan Waktu Nyata dan Offline: Sistem dual-track kami mendukung penulisan waktu nyata dengan latency rendah dan impor offline dengan throughput tinggi, memastikan kesegaran data.
4. Efisiensi Biaya: Instans Extended Capacity kami memanfaatkan Tiered Storage cerdas untuk mengurangi biaya penyimpanan secara signifikan sambil mempertahankan kinerja tinggi.
5. Model AI Tersemat: Dengan mengintegrasikan model embedding dan peringkat multimodal, kami telah menurunkan hambatan untuk mengimplementasikan aplikasi pencarian yang kompleks.

Kemampuan ini memungkinkan pengembang untuk menangani berbagai jenis data dengan efisien, membuat aplikasi AI modern lebih kuat dan lebih serbaguna.

Bagaimana Anda melihat Multimodal RAG memajukan kemampuan AI untuk menangani data dunia nyata yang kompleks seperti gambar, audio, dan video bersamaan dengan teks?

Multimodal RAG (Retrieval-Augmented Generation) mewakili evolusi penting dalam AI. Sementara RAG berbasis teks telah menonjol, sebagian besar data perusahaan mencakup gambar, video, dan audio. Kemampuan untuk mengintegrasikan format-format ini ke dalam alur kerja AI sangat penting.

Perubahan ini tepat waktu, karena komunitas AI mempertanyakan keterbatasan data teks internet yang tersedia untuk pelatihan. Sementara data teks terbatas, data multimodal tetap tidak termanfaatkan—mulai dari video perusahaan hingga film Hollywood dan rekaman audio.

Multimodal RAG membuka reservoir yang tidak termanfaatkan ini, memungkinkan sistem AI untuk memproses dan memanfaatkan jenis data kaya ini. Ini bukan hanya tentang mengatasi kelangkaan data; ini tentang memperluas batas kemampuan AI untuk lebih baik memahami dan berinteraksi dengan dunia nyata.

Bagaimana Zilliz membedakan diri dari pesaing di pasar database vektor yang tumbuh pesat?

Zilliz menonjol melalui beberapa aspek unik:

1. Identitas Ganda: Kami adalah perusahaan AI dan perusahaan database, mendorong batas-batas manajemen data dan integrasi AI.
2. Desain Cloud-Native: Milvus 2.0 adalah database vektor terdistribusi pertama yang mengadopsi arsitektur penyimpanan dan komputasi yang terpisah, memungkinkan skalabilitas dan efisiensi biaya untuk lebih dari 100 miliar vektor.
3. Peningkatan Khusus: Mesin Cardinal kami mencapai performa tiga kali lipat dari Milvus open-source dan 10 kali lipat dari pesaing. Kami juga menawarkan indeks berbasis disk dan Tiered Storage cerdas untuk penskalaan yang efisien biaya.
4. Inovasi Terus-Menerus: Dari kemampuan pencarian hibrida hingga alat migrasi seperti VTS, kami terus maju dalam teknologi database vektor.

Komitmen kami terhadap open-source memastikan fleksibilitas, sementara layanan terkelola kami, Zilliz Cloud, menyediakan kinerja kelas perusahaan dengan kompleksitas operasional minimal.

Apakah Anda dapat menjelaskan lebih lanjut tentang signifikansi Zilliz Cloud dan perannya dalam mendemokratisasi AI serta membuat layanan pencarian vektor lebih mudah diakses oleh pengembang kecil dan perusahaan?

Pencarian vektor telah digunakan oleh raksasa teknologi sejak 2015, tetapi implementasi khusus membatasi adopsi yang lebih luas. Di Zilliz, kami mendemokratisasi teknologi ini melalui dua pendekatan komplementer:

1. Open Source: Milvus memungkinkan pengembang untuk membangun dan memiliki infrastruktur pencarian vektor mereka, menurunkan hambatan teknis.
2. Layanan Terkelola: Zilliz Cloud menghilangkan overhead operasional, menawarkan solusi sederhana dan efisien biaya bagi bisnis untuk mengadopsi pencarian vektor tanpa memerlukan insinyur khusus.

Pendekatan ganda ini membuat pencarian vektor lebih mudah diakses oleh pengembang dan perusahaan, memungkinkan mereka untuk fokus pada membangun aplikasi AI inovatif.

Dengan kemajuan dalam LLM dan model dasar, apa yang Anda percayai akan menjadi pergeseran besar berikutnya dalam infrastruktur data AI?

Pergeseran besar berikutnya akan menjadi transformasi total infrastruktur data AI untuk menangani data tidak terstruktur, yang mencakup 90% dari data dunia. Sistem yang ada, yang dirancang untuk data terstruktur, tidak siap untuk pergeseran ini.

Transformasi ini akan memengaruhi setiap lapisan tumpukan data, dari sistem database dasar hingga protokol keamanan dan sistem pengawasan. Ini bukan tentang upgrade inkremental—ini tentang menciptakan paradigma baru yang disesuaikan dengan kompleksitas data tidak terstruktur.

Transformasi ini akan menyentuh setiap aspek tumpukan data:

• Sistem database dasar
• Pipa data dan proses ETL
• Mekanisme pembersihan dan transformasi data
• Protokol keamanan dan enkripsi
• Kerangka kerja kepatuhan dan tata kelola
• Sistem pengawasan data

Kami tidak hanya berbicara tentang memperbarui sistem yang ada – kami berbicara tentang membangun paradigma yang sama sekali baru. Ini seperti berpindah dari dunia yang dioptimalkan untuk mengatur buku di perpustakaan ke dunia yang perlu mengelola, memahami, dan memproses internet secara keseluruhan. Pergeseran ini mewakili dunia baru, di mana setiap komponen infrastruktur data mungkin perlu dibayangkan dari awal.

Revolusi ini akan mendefinisikan kembali bagaimana kita menyimpan, mengelola, dan memproses data, membuka peluang besar untuk inovasi AI.

Bagaimana integrasi NVIDIA GPU memengaruhi kinerja dan skalabilitas pencarian vektor Anda?

Integrasi NVIDIA GPU telah meningkatkan secara signifikan kinerja pencarian vektor kami dalam dua area kunci.

Pertama, dalam pembangunan indeks, yang merupakan salah satu operasi yang paling intensif komputasi dalam database vektor. Dibandingkan dengan indeks database tradisional, konstruksi indeks vektor memerlukan beberapa pesanan besarnya lebih banyak daya komputasi. Dengan memanfaatkan percepatan GPU, kami telah secara dramatis mengurangi waktu pembangunan indeks, memungkinkan pengambilan data yang lebih cepat dan visibilitas data yang lebih baik.

Kedua, GPU telah menjadi sangat penting untuk kasus penggunaan kueri dengan throughput tinggi. Dalam aplikasi seperti e-commerce, di mana sistem perlu menangani ribuan atau bahkan puluhan ribuan kueri per detik (QPS), kemampuan pemrosesan paralel GPU telah terbukti sangat berharga. Dengan menggunakan percepatan GPU, kami dapat memproses pencarian kesamaan vektor dengan volume tinggi sambil mempertahankan latency rendah.

Sejak 2021, kami telah berkolaborasi dengan NVIDIA (NVDA ) untuk mengoptimalkan algoritma kami untuk arsitektur GPU, serta mengembangkan sistem kami untuk mendukung komputasi heterogen di berbagai arsitektur prosesor. Ini memberi pelanggan kami fleksibilitas untuk memilih infrastruktur perangkat keras yang paling sesuai untuk kebutuhan spesifik mereka.

Apakah Anda melihat aplikasi database vektor meluas ke luar kasus penggunaan tradisional seperti sistem rekomendasi dan pencarian ke industri seperti kesehatan?

Database vektor dengan cepat meluas ke luar aplikasi tradisional seperti sistem rekomendasi dan pencarian, menembus industri yang tidak pernah kami bayangkan sebelumnya. Biarkan saya berbagi beberapa contoh.

Dalam penelitian kesehatan dan farmasi, database vektor merevolusi penemuan obat. Molekul dapat di-vektorisasi berdasarkan sifat fungsionalnya, dan menggunakan fitur seperti pencarian rentang, peneliti dapat menemukan semua kandidat obat potensial yang mungkin mengobati penyakit atau gejala tertentu. Tidak seperti pencarian top-k tradisional, pencarian rentang mengidentifikasi semua molekul dalam jarak tertentu dari target, memberikan pandangan komprehensif tentang kandidat potensial.

Dalam mengemudi otonom, database vektor meningkatkan keamanan dan kinerja kendaraan. Salah satu aplikasi menarik adalah dalam menangani kasus tepi – ketika skenario tidak biasa ditemui, sistem dapat dengan cepat mencari melalui database besar untuk menemukan data pelatihan yang relevan untuk memperhalus model mengemudi otonom.

Kami juga melihat aplikasi inovatif dalam layanan keuangan untuk deteksi penipuan, keamanan siber untuk deteksi ancaman, dan periklanan yang ditargetkan untuk meningkatkan keterlibatan pelanggan. Misalnya, dalam perbankan, transaksi dapat di-vektorisasi dan dibandingkan dengan pola sejarah untuk mengidentifikasi aktivitas penipuan potensial.

Kekuatan database vektor terletak pada kemampuannya untuk memahami dan memproses kesamaan dalam domain apa pun – apakah itu struktur molekul, skenario mengemudi, pola keuangan, atau ancaman keamanan. Ketika AI terus berkembang, kami baru saja menyentuh apa yang mungkin.

Bagaimana pengembang dan perusahaan dapat terlibat dengan Zilliz dan Milvus untuk memanfaatkan teknologi database vektor dalam proyek AI mereka?

Ada dua jalur utama untuk memanfaatkan teknologi database vektor dengan Zilliz dan Milvus, masing-masing sesuai untuk kebutuhan dan prioritas yang berbeda. Jika Anda menghargai fleksibilitas dan kustomisasi, Milvus, solusi open-source kami, adalah pilihan terbaik. Dengan Milvus, Anda dapat:

• Mencoba secara bebas dan belajar teknologi dengan kecepatan Anda sendiri
• Mengkustomisasi solusi untuk kebutuhan spesifik Anda
• Menyumbangkan pengembangan dan memodifikasi basis kode
• Mempertahankan kontrol penuh atas infrastruktur Anda

Namun, jika Anda ingin fokus pada membangun aplikasi tanpa mengelola infrastruktur, Zilliz Cloud adalah pilihan optimal. Ini menawarkan:

• Solusi out-of-the-box dengan penerapan satu klik
• Keamanan dan kepatuhan kelas perusahaan
• Ketersediaan tinggi dan stabilitas
• Kinerja yang dioptimalkan tanpa overhead operasional

Pikirkan ini dengan cara ini: jika Anda menikmati ‘mengutak-atik’ dan ingin fleksibilitas maksimal, pilih Milvus. Jika Anda ingin meminimalkan kompleksitas operasional dan langsung memulai membangun aplikasi, pilih Zilliz Cloud.

Kedua jalur akan membawa Anda ke tujuan – ini hanya masalah seberapa banyak perjalanan yang ingin Anda kendalikan versus seberapa cepat Anda perlu tiba

Terima kasih atas wawancara yang luar biasa, pembaca yang ingin mempelajari lebih lanjut dapat mengunjungi Zilliz atau Milvus.