Charles Xie, Zilliz’in Kurucusu ve CEO’su – Röportaj Serisi

Charles Xie Zilliz’in kurucusu ve CEO’su, AI ve LLM uygulamaları için nächsten-generation veritabanları ve arama teknolojileri geliştirmeye odaklanıyor. Zilliz’de ayrıca, üretim-ready AI için dünyanın en popüler açık kaynaklı vektör veritabanı olan Milvus’u icat etti. Şu anda LF AI & Data Foundation’un yönetim kurulu üyesi ve 2020 ve 2021 yıllarında yönetim kurulu başkanlığı yaptı. Charles daha önce Oracle’ (ORCL ) da Oracle 12c bulut veritabanı projesinin kurucu mühendisi olarak çalıştı. Charles, Wisconsin-Madison Üniversitesi’nden bilgisayar bilimi alanında yüksek lisans derecesine sahiptir.

Zilliz LF AI Milvus®’un arkasındaki ekip, geniş çapta kullanılan açık kaynaklı bir vektör veritabanıdır. Şirket, veri altyapısı yönetimini basitleştirmeye odaklanıyor, böylece AI’yi şirketlere, kuruluşlara ve bireylere daha erişilebilir hale getirmeyi amaçlıyor.

Zilliz’i kurma hikayesini ve Milvus’u geliştirme nedenini paylaşabilir misiniz?

Veritabanı alanındaki yolculuğum 15 yılı aşkın bir süredir devam ediyor, bu süre içinde altı yıl Oracle’da yazılım mühendisi olarak çalıştım ve Oracle 12c Multitenant Database ekibinin kurucu üyesi olarak görev yaptım. Bu süre zarfında, yapılandırılmış verilerin iyi yönetildiğini ancak yapılandırılmamış verilerin – tüm verilerin %90’ını oluşturan – büyük ölçüde kullanılmadığını fark ettim, sadece %1’i anlamlı bir şekilde analiz edildi.

2017 yılında, AI’nin yapılandırılmamış verileri işleme yeteneğinin artması, bir dönemeç noktası oldu. NLP’deki gelişmeler, yapılandırılmamış verilerin vektör içmeleştirilerine dönüştürülerek anlamsal anlamının kilidini açabileceğini gösterdi. Bu, beni Zilliz’i kurmaya ve “milyarlarca veri”yi yönetme vizyonuna sahip olmaya yöneltti. Vektör içmeleştirileri, yapılandırılmamış veri ile eyleme geçirilebilir içgörüler arasındaki boşluğu köprülemek için temel taşı oldu. Milvus’u, bu vizyonu hayata geçirmek için özel olarak tasarlanmış bir vektör veritabanı olarak geliştirdik.

Son iki yılda, endüstri bu yaklaşımı doğruladı ve vektör veritabanlarını yapılandırılmamış verilerin yönetiminde temel olarak tanıdı. Bizim için bu, teknolojiyi aşan bir şey – insanlığın AI çağındaki yapılandırılmamış verilerin potansiyelini kullanabilmesi için güçlendirilmesidir.

Zilliz’in kuruluşundan bu yana yolculuğu nasıl değişti ve vektör veritabanı alanını öncülük ederken hangi ana zorluklarla karşılaştınız?

Yolculuk dönüşümseldi. Zilliz’i yedi yıl önce kurduğumuzda, gerçek zorluk finansman veya personel değildi – tamamen keşfedilmemiş bir alanda bir ürün geliştirmekti. Mevcut yol haritaları, en iyi uygulamalar veya kurulmuş kullanıcı beklentileri olmadan, kendi rotamızı çizmek zorunda kaldık.

Kırılımız, Milvus’u açık kaynak olarak yayınladığımızda geldi. Kullanım barriersini düşürerek ve topluluk katılımını teşvik ederek, ürünün geliştirilmesi ve iyileştirilmesi için değerli kullanıcı geri bildirimi kazandık. Milvus 2019’da piyasaya sürüldüğünde, yıl sonuna doğru yaklaşık 30 kullanıcıya sahiptik. Bu, 2020’de 200’ün üzerinde ve kısa süre sonra 1000’in üzerinde kullanıcıya ulaştı.

Şimdi, vektör veritabanları AI çağındaki temel altyapıdan novel bir kavramdan vazgeçti, başladığımız vizyonu doğruladı.

Zilliz olarak, modern AI uygulamalarında multimodal vektör aramasını desteklemek için hangi benzersiz teknik yeteneklere sahipsiniz?

Zilliz, multimodal vektör aramasını desteklemek için gelişmiş teknik yeteneklere sahip:

1. Melez Arama: Farklı modellerdeki aramaları aynı anda gerçekleştirebiliyoruz, Örneğin, bir görüntünün görsel özelliklerini metin açıklamasıyla birleştirebiliyoruz.
2. Optimize Edilmiş Algoritmalar: Özel kuantizasyon teknikleri, çapraz-modlu aramalar için geri çağırma doğruluğunu ve bellek verimliliğini dengeliyor.
3. Gerçek Zamanlı ve Çevrimdışı İşleme: Çift izli sistemimiz, düşük gecikme gerçek zamanlı yazma ve yüksek hacimli çevrimdışı ithalatları destekliyor, böylece veri tazeliliği sağlanıyor.
4. Maliyet Etkinliği: Genişletilmiş Kapasite örneklerimiz, akıllı Tierli Depolama kullanarak depolama maliyetlerini önemli ölçüde azaltırken yüksek performansı koruyor.
5. Gömülü AI Modelleri: Çapraz-modlu gömme ve sıralama modellerini entegre ederek, karmaşık arama uygulamalarının uygulanmasını kolaylaştırdık.

Bu yetenekler, geliştiricilerin çeşitli veri türlerini verimli bir şekilde işleyerek modern AI uygulamalarını daha güçlü ve çok yönlü hale getirmesine olanak tanır.

Multimodal RAG, karmaşık gerçek dünya verilerini – görseller, ses ve videoları metinle birlikte – AI’nin işleyişini nasıl etkileyecek?

Multimodal RAG (Retrival-Augmented Generation), AI’de önemli bir evrimi temsil ediyor. Metin tabanlı RAG nổimlüdür, ancak çoğu kurumsal veri, görseller, videolar ve sesleri içerir. Bu çeşitli formatların AI iş akışlarına entegrasyonu kritiktir.

Bu değişim, AI topluluğunun mevcut internet metin verilerinin sınırlarını tartıştığı bir zamanda geliyor. Metin verisi sonludur, ancak multimodal veri büyük ölçüde kullanılmamıştır – kurumsal videolardan Hollywood filmlerine ve ses kayıtlarına kadar.

Multimodal RAG, bu kullanılmamış havuzu açığa çıkararak, AI sistemlerinin bu zengin veri türlerini işleyerek ve kullanmasına olanak tanır. Sadece veri kıtlığını gidermekle kalmaz, AI’nin gerçek dünya ile etkileşim kurma ve anlamlandırma yeteneklerini genişletir.

Zilliz, hızla büyüyen vektör veritabanı pazarındaki rakiplerinden nasıl ayrışır?

Zilliz, birkaç benzersiz yönüyle öne çıkıyor:

1. Çift Kimlik: Hem AI şirketi hem de veritabanı şirketi olarak, veri yönetimini ve AI entegrasyonunu sınırlarını genişletiyoruz.
2. Bulut Yerlisi Tasarım: Milvus 2.0, dağıtılmış bir vektör veritabanı olarak, birleştirilmiş depolama ve hesaplama mimarisini benimseyen ilk oldu, bu da 100 milyara varan vektör için ölçeklenebilirlik ve maliyet etkinliği sağlar.
3. Özel Geliştirmeler: Cardinal motorumuz, açık kaynaklı Milvus’un 3 katına ve rakiplerimizin 10 katına varan performansa sahiptir. Ayrıca, disk tabanlı indeksleme ve akıllı Tier Depolama için maliyet etkin ölçekleme sunuyoruz.
4. Sürekli İnovasyon: Melez arama yeteneklerinden VTS gibi göç araçlarına kadar, sürekli olarak vektör veritabanı teknolojisini ilerletiyoruz.

Açık kaynaklı taahhüdümüz esneklik sağlarken, yönetilen hizmetimiz Zilliz Cloud, işletme sınıfı performansı minimal operasyonel karmaşıklıkla sunar.

Zilliz Cloud’un önemi ve AI’yi demokratikleştirmeye, vektör arama hizmetlerini küçük geliştiricilere ve işletmelere erişilebilir kılmaya nasıl katkıda bulunduğu hakkında konuşabilir misiniz?

Vektör araması, 2015’ten beri teknoloji devleri tarafından kullanılmaktadır, ancak özel uygulamalar bu teknolojinin daha geniş kapsamlı benimsenmesini sınırlamıştır. Zilliz’de, iki tamamlayıcı yaklaşım yoluyla bu teknolojiyi demokratikleştirmeyi amaçlıyoruz:

1. Açık Kaynak: Milvus, geliştiricilerin kendi vektör arama altyapısını oluşturup sahip olmalarına olanak tanır, teknik engelleri düşürür.
2. Yönetilen Hizmet: Zilliz Cloud, operasyonel yükü ortadan kaldırarak, basit ve maliyet etkin bir çözüm sunar, böylece işletmeler vektör aramayı uzman mühendislere ihtiyaç duymadan benimseyebilir.

Bu çift yaklaşım, vektör aramasını geliştiriciler ve işletmeler için erişilebilir kılar, böylece yenilikçi AI uygulamaları oluşturmaya odaklanabilirler.

LLM’ler ve temel modellerdeki gelişmelerle birlikte, AI veri altyapısında bir sonraki büyük değişimi nasıl görüyorsunuz?

Sonraki büyük değişim, AI veri altyapısının %90’ını oluşturan yapılandırılmamış verilerin yönetimine yönelik olacaktır. Mevcut sistemler, yapılandırılmış veri için tasarlandığından, bu değişime uygun değildir.

Bu dönüşüm, veri yığınının her katmanını etkileyecek – temel veritabanlarından güvenlik protokollerine ve gözlemlenebilirlik sistemlerine kadar. Bu, mevcut sistemlerin artan güncellemeleri değil, yeni paradigmaların yaratılmasıdır.

Bu dönüşüm, veri yığınının her yönünü etkileyecek:

• Temel veritabanı sistemleri
• Veri boru hatları ve ETL süreçleri
• Veri temizleme ve dönüştürme mekanizmaları
• Güvenlik ve şifreleme protokolleri
• Uygunluk ve yönetim çerçeveleri
• Veri gözlemlenebilirlik sistemleri

Yalnızca mevcut sistemleri yükseltmekle kalmıyoruz, tamamen yeni paradigmalar oluşturuyoruz. Kitapları bir kütüphanede organize etmek için optimize edilmiş bir dünyadan, tüm interneti yönetmek, anlamak ve işlemek için gereken bir dünyaya geçiyoruz. Bu değişim, her bir veri altyapısı bileşeninin temelinden yeniden hayal edilmesi gereken yeni bir dünya temsil ediyor.

Bu devrim, verilerin depolanması, yönetilmesi ve işlenmesinin şeklini yeniden tanımlayacak ve AI yenilikleri için büyük fırsatlar açacak.

NVIDIA GPU’larının entegrasyonu, vektör aramanızın performansını ve ölçeklenebilirliğini nasıl etkiledi?

NVIDIA GPU’larının entegrasyonu, vektör arama performansımızı iki ana alanda önemli ölçüde artırdı.

İlk olarak, dizin oluşturma, vektör veritabanlarında en yoğun hesaplamalı operasyonlardan biridir. Geleneksel veritabanı indekslemesine kıyasla, vektör indeks oluşturması, hesaplamalı güçte birkaç kat daha fazla gerektirir. GPU hızlandırmasını kullanarak, dizin oluşturma süresini dramatik bir şekilde azalttık, bu da daha hızlı veri alımı ve gelişmiş veri görünürlüğü sağladı.

İkincisi, GPU’lar, yüksek hacimli sorgu kullanım örnekleri için kritik öneme sahiptir. E-ticaret gibi uygulamalarda, sistemlerin saniyede binlerce veya on binlerce sorgu (QPS) işleyebilmesi gerekir, burada GPU’ların paralel işlem yetenekleri çok değerli olmuştur. GPU hızlandırmasını kullanarak, bu yüksek hacimli vektör benzerlik aramalarını düşük gecikmeyle işleyebilir ve aynı zamanda performansını koruyabiliriz.

2021’den beri, algoritmalarımızı NVIDIA (NVDA ) GPU mimarisiyle optimize etmek ve aynı zamanda sistemimizi farklı işlemci mimarileri arasında heterojen hesaplama için desteklemek üzere çalışıyoruz. Bu, müşterilerimize, spesifik ihtiyaçlarına en uygun donanım altyapısını seçme esnekliği sağlar.

AI’de vektör veritabanlarının kritik bir rolü olduğu düşünülürse, bunların geleneksel kullanım örneklerinin ötesine, sağlık gibi sektörlere de uygulanabileceğini düşünüyor musunuz?

Vektör veritabanları, hızla geleneksel uygulamaların ötesine, daha önce hayal edilmeyen sektörlere giriyor. Birkaç örnek paylaşmak isterim.

Sağlık ve ilaç araştırmalarında, vektör veritabanları, ilaç keşfini devrimleştiriyor. Moleküller, işlevsel özelliklerine göre vektörleştirilebilir ve gelişmiş özellikler gibi aralık araması kullanılarak, belirli hastalıkları veya semptomları tedavi edebilecek tüm potansiyel ilaç adaylarını keşfetmek mümkündür. Geleneksel top-k aramalarının aksine, aralık araması, hedefin belirli bir mesafesindeki tüm molekülleri tanımlar, bu da adayların kapsamlı bir görünümünü sağlar.

Otonom sürüşte, vektör veritabanları, araç güvenliğini ve performansını artırıyor. İlginç bir uygulama, kenar durumların işlenmesidir – sistem, büyük veritabanlarında benzer durumları hızlı bir şekilde aratarak, otonom sürüş modelleri için ilgili eğitim verilerini bulabilir.

Ayrıca, finansal hizmetlerde dolandırıcılık tespiti, siber güvenlikte tehdit tespiti ve hedefli reklamcılık için müşteri etkileşimini iyileştirme gibi sektörlerde yenilikçi uygulamalar görüyoruz. Örneğin, bankacılıkta, işlemler vektörleştirilebilir ve tarihi kalıplarla karşılaştırılarak potansiyel dolandırıcılık faaliyetleri tespit edilebilir.

Vektör veritabanlarının gücü, herhangi bir alanda benzerliği anlamak ve işlemek能力idir – moleküler yapılar, sürüş senaryoları, finansal kalıplar veya güvenlik tehditleri. AI devam ederken, olanakların yalnızca yüzeyini keşfediyoruz.

Geliştiriciler ve işletmeler, AI projelerinde vektör veritabanı teknolojisini Zilliz ve Milvus ile en iyi nasıl kullanabilir?

Vektör veritabanı teknolojisini Zilliz ve Milvus ile kullanmak için iki ana yol vardır, her biri farklı ihtiyaçlar ve öncelikler için uygundur. Esneklik ve özelleştirmeye değer veriyorsanız, açık kaynaklı çözümümüz Milvus en iyi seçiminizdir. Milvus ile:

• Ücretsizce deneysel çalışabilir ve teknolojiyi kendi hızınızda öğrenebilirsiniz
• Çözümü spesifik gereksinimlerinize göre özelleştirebilirsiniz
• Geliştirmeye katkıda bulunabilir ve kod tabanını değiştirebilirsiniz
• Altyapınızın tam kontrolünü elinizde tutabilirsiniz

Ancak, altyapı yönetimiyle uğraşmak istemiyorsanız ve uygulamanızı oluşturmaya odaklanmak istiyorsanız, Zilliz Cloud en iyi seçiminizdir. Bu, size:

• Tıkla ve dağıt ile hazır bir çözüm sunar
• İşletme sınıfı güvenlik ve uyumluluk
• Yüksek kullanılabilirlik ve istikrar
• Operasyonel yük olmadan optimize edilmiş performans

Bunu böyle düşünün: Eğer “tinker”eyi seviyorsanız ve maksimum esneklik istiyorsanız, Milvus’u seçin. Operasyonel karmaşıklığı en aza indirmek ve uygulamanızı oluşturmaya hemen başlamak istiyorsanız, Zilliz Cloud’u seçin.

Her iki yol da sizi varış noktanıza ulaştıracaktır – sadece kontrol etmek istediğiniz yolun ne kadarını ve ne kadar hızlı ulaşmak istediğinizi seçmeniz gerekir

Harika röportaj için teşekkür ederiz, okuyucular daha fazla bilgi edinmek istiyorsa Zilliz veya Milvus‘u ziyaret edebilirler.