Charles Xie, Fundador e CEO da Zilliz – Série de Entrevistas

Charles Xie é o fundador e CEO da Zilliz, focando em construir bancos de dados e tecnologias de busca de próxima geração para aplicações de IA e LLMs. Na Zilliz, ele também inventou o Milvus, o banco de dados de vetores de código aberto mais popular do mundo para IA de produção. Atualmente, ele é membro do conselho da LF AI & Data Foundation e serviu como presidente do conselho em 2020 e 2021. Charles trabalhou anteriormente na Oracle (ORCL ) como engenheiro fundador do projeto de banco de dados em nuvem Oracle 12c. Charles possui um mestrado em ciência da computação pela Universidade de Wisconsin-Madison.

Zilliz é a equipe por trás do LF AI Milvus®, um banco de dados de vetores de código aberto amplamente utilizado. A empresa se concentra em simplificar a gestão da infraestrutura de dados, visando tornar a IA mais acessível a corporações, organizações e indivíduos.

Você pode compartilhar a história por trás da fundação da Zilliz e o que o inspirou a desenvolver o Milvus e se concentrar em bancos de dados de vetores?

Minha jornada no campo de bancos de dados abrange mais de 15 anos, incluindo seis anos como engenheiro de software na Oracle, onde fui um dos fundadores da equipe do banco de dados multitenant Oracle 12c. Durante esse tempo, notei uma limitação importante: embora os dados estruturados fossem bem gerenciados, os dados não estruturados – que representam 90% de todos os dados – permaneciam em grande parte inexplorados, com apenas 1% analisados de forma significativa.

Em 2017, a capacidade crescente da IA de processar dados não estruturados marcou um ponto de inflexão. Os avanços na PNL mostraram como os dados não estruturados poderiam ser transformados em embeddings de vetores, desbloqueando seu significado semântico. Isso me inspirou a fundar a Zilliz, com a visão de gerenciar “bilhões de dados”. Os embeddings de vetores se tornaram a pedra angular para pontuar a lacuna entre os dados não estruturados e as informações ações.

Nos últimos dois anos, a indústria validou essa abordagem, reconhecendo os bancos de dados de vetores como fundamentais para gerenciar dados não estruturados. Para nós, é mais do que tecnologia – é sobre empoderar a humanidade para aproveitar o potencial dos dados não estruturados na era da IA.

Como a jornada da Zilliz evoluiu desde sua criação, há seis anos, e quais foram os principais desafios que você enfrentou ao pioneirar o espaço de bancos de dados de vetores?

A jornada tem sido transformadora. Quando começamos a Zilliz, há sete anos, o desafio real não era a captação de recursos ou contratação – era construir um produto em um território completamente inexplorado. Sem mapas de rota existentes, práticas recomendadas ou expectativas de usuário estabelecidas, tivemos que criar nosso próprio caminho.

Nossa quebra de barreira veio com a disponibilização do Milvus como código aberto. Ao reduzir as barreiras para adoção e fomentar o engajamento da comunidade, ganhamos feedbacks valiosos dos usuários para iterar e melhorar o produto. Quando o Milvus foi lançado em 2019, tínhamos cerca de 30 usuários no final do ano. Isso cresceu para mais de 200 em 2020 e quase 1.000 logo após.

Hoje, os bancos de dados de vetores passaram de um conceito novato para infraestrutura essencial na era da IA, validando a visão com a qual começamos.

Como uma empresa de bancos de dados de vetores, quais capacidades técnicas únicas a Zilliz oferece para suportar a busca de vetores multimodais em aplicações de IA modernas?

A Zilliz desenvolveu capacidades técnicas avançadas para suportar a busca de vetores multimodais:

1. Busca Híbrida: Habilitamos buscas simultâneas em diferentes modalidades, como combinar recursos visuais de uma imagem com sua descrição de texto.
2. Algoritmos Otimizados: Técnicas de quantização proprietárias equilibram a precisão de recall e a eficiência de memória para buscas cross-modais.
3. Processamento em Tempo Real e Offline: Nosso sistema de duas vias suporta gravações em tempo real de baixa latência e importações offline de alta taxa, garantindo a frescura dos dados.
4. Eficiência de Custo: Nossas instâncias de Capacidade Estendida aproveitam o Armazenamento em Camadas Inteligente para reduzir significativamente os custos de armazenamento, mantendo o alto desempenho.
5. Modelos de IA Incorporados: Ao integrar modelos de embedding e ranqueamento multimodais, reduzimos a barreira para implementar aplicações de busca complexas.

Essas capacidades permitem que os desenvolvedores lidem eficientemente com tipos de dados diversificados, tornando as aplicações de IA modernas mais robustas e versáteis.

Como você vê a RAG Multimodal avançando a capacidade da IA de lidar com dados complexos do mundo real, como imagens, áudio e vídeos, ao lado do texto?

A RAG Multimodal (Geração Aumentada de Recuperação) representa uma evolução crucial na IA. Embora a RAG baseada em texto tenha sido proeminente, a maioria dos dados empresariais abrange imagens, vídeos e áudio. A capacidade de integrar esses formatos diversificados em fluxos de trabalho de IA é crítica.

Essa mudança é oportuna, pois a comunidade de IA debate os limites dos dados de texto da internet disponíveis para treinamento. Enquanto os dados de texto são finitos, os dados multimodais permanecem vastamente subutilizados – variando de vídeos corporativos a filmes de Hollywood e gravações de áudio.

A RAG Multimodal desbloqueia esse reservatório não explorado, permitindo que os sistemas de IA processem e aproveitem esses ricos tipos de dados. Não se trata apenas de abordar a escassez de dados; é sobre expandir os limites das capacidades da IA para entender e interagir melhor com o mundo real.

Como a Zilliz se diferencia de seus concorrentes no mercado de bancos de dados de vetores em rápido crescimento?

A Zilliz se destaca por vários aspectos únicos:

1. Identidade Dupla: Somos tanto uma empresa de IA quanto uma empresa de bancos de dados, impulsionando os limites da gestão de dados e integração de IA.
2. Projeto Nativo em Nuvem: O Milvus 2.0 foi o primeiro banco de dados de vetores distribuído a adotar uma arquitetura de armazenamento e computação desagregada, permitindo escalabilidade e eficiência de custo para mais de 100 bilhões de vetores.
3. Melhorias Proprietárias: Nosso motor Cardinal alcança 3 vezes o desempenho do Milvus de código aberto e 10 vezes mais do que os concorrentes. Oferecemos também indexação baseada em disco e Armazenamento em Camadas Inteligente para escalabilidade de custo eficaz.
4. Inovação Contínua: Desde capacidades de busca híbrida até ferramentas de migração como o VTS, estamos constantemente avançando a tecnologia de bancos de dados de vetores.

Nosso compromisso com o código aberto garante flexibilidade, enquanto nosso serviço gerenciado, Zilliz Cloud, entrega desempenho de classe empresarial com complexidade operacional mínima.

Você pode elaborar sobre a importância da Zilliz Cloud e seu papel na democratização da IA e tornar os serviços de busca de vetores acessíveis a desenvolvedores e empresas menores?

A busca de vetores tem sido usada por gigantes da tecnologia desde 2015, mas implementações proprietárias limitaram sua adoção mais ampla. Na Zilliz, estamos democratizando essa tecnologia por meio de duas abordagens complementares:

1. Código Aberto: O Milvus permite que os desenvolvedores construam e possuam sua própria infraestrutura de busca de vetores, reduzindo barreiras técnicas.
2. Serviço Gerenciado: A Zilliz Cloud elimina a sobrecarga operacional, oferecendo uma solução simples e de baixo custo para que as empresas adotem a busca de vetores sem precisar de engenheiros especializados.

Essa abordagem dupla torna a busca de vetores acessível tanto a desenvolvedores quanto a empresas, permitindo que eles se concentrem em construir aplicações de IA inovadoras.

Com os avanços em LLMs e modelos de fundação, o que você acredita que será a próxima grande mudança na infraestrutura de dados de IA?

A próxima grande mudança será a transformação completa da infraestrutura de dados de IA para lidar com dados não estruturados, que compõem 90% dos dados do mundo. Os sistemas existentes, projetados para dados estruturados, estão mal equipados para essa mudança.

Essa transformação afetará todas as camadas da pilha de dados, desde sistemas de banco de dados fundamentais até protocolos de segurança e sistemas de observabilidade. Não se trata de upgrades incrementais – é sobre criar novos paradigmas adaptados às complexidades dos dados não estruturados.

Essa transformação afetará todos os aspectos da pilha de dados:

• Sistemas de banco de dados fundamentais
• Pipelines de dados e processos ETL
• Mecanismos de limpeza e transformação de dados
• Protocolos de segurança e criptografia
• Quadros de conformidade e governança
• Sistemas de observabilidade de dados

Não estamos apenas falando sobre atualizar sistemas existentes – estamos falando sobre construir paradigmas completamente novos. É como mudar de um mundo otimizado para organizar livros em uma biblioteca para um que precisa gerenciar, entender e processar a internet inteira. Essa mudança representa um mundo completamente novo, onde cada componente da infraestrutura de dados pode precisar ser reimaginado do zero.

Essa revolução redefinirá como armazenamos, gerenciamos e processamos dados, desbloqueando vastas oportunidades para inovação em IA.

Como a integração de GPUs da NVIDIA (NVDA ) influenciou o desempenho e a escalabilidade da sua busca de vetores?

A integração de GPUs da NVIDIA melhorou significativamente o desempenho da nossa busca de vetores em duas áreas principais.

Primeiro, na construção de índices, que é uma das operações mais intensivas em computação em bancos de dados de vetores. Em comparação com a indexação de banco de dados tradicional, a construção de índice de vetores requer várias ordens de magnitude mais poder computacional. Ao aproveitar a aceleração de GPU, reduzimos drasticamente o tempo de construção de índice, permitindo uma ingestão de dados mais rápida e melhor visibilidade dos dados.

Segundo, as GPUs foram cruciais para casos de uso de consulta de alta taxa. Em aplicações como comércio eletrônico, onde os sistemas precisam lidar com milhares ou até dezenas de milhares de consultas por segundo (QPS), as capacidades de processamento paralelo das GPUs se provaram inestimáveis. Ao utilizar a aceleração de GPU, podemos processar eficientemente essas buscas de vetores de alta volume enquanto mantemos a baixa latência.

Desde 2021, estamos colaborando com a NVIDIA para otimizar nossos algoritmos para a arquitetura de GPU, enquanto também desenvolvemos nosso sistema para suportar computação heterogênea em diferentes arquiteturas de processador. Isso dá aos nossos clientes a flexibilidade de escolher a infraestrutura de hardware mais adequada para suas necessidades específicas.

À medida que os bancos de dados de vetores desempenham um papel crítico na IA, você vê sua aplicação se estendendo além de casos de uso tradicionais, como sistemas de recomendação e busca, para indústrias como saúde?

Os bancos de dados de vetores estão se expandindo rapidamente além de aplicações tradicionais, como sistemas de recomendação e busca, penetrando indústrias que nunca imaginamos antes. Deixe-me compartilhar alguns exemplos.

Na saúde e na pesquisa farmacêutica, os bancos de dados de vetores estão revolucionando a descoberta de drogas. Moléculas podem ser vetorizadas com base em suas propriedades funcionais, e usando recursos avançados como busca por faixa, os pesquisadores podem descobrir todos os candidatos a drogas potenciais que possam tratar doenças ou sintomas específicos. Ao contrário das buscas top-k tradicionais, a busca por faixa identifica todas as moléculas dentro de uma certa distância do alvo, fornecendo uma visão abrangente de candidatos potenciais.

No direção autônoma, os bancos de dados de vetores estão aprimorando a segurança e o desempenho dos veículos. Uma aplicação interessante é lidar com casos de borda – quando cenários incomuns são encontrados, o sistema pode rapidamente buscar em bancos de dados massivos de situações semelhantes para encontrar dados de treinamento relevantes para ajustar finamente os modelos de direção autônoma.

Também estamos vendo aplicações inovadoras nos serviços financeiros para detecção de fraude, cibersegurança para detecção de ameaças e publicidade direcionada para engajamento de cliente aprimorado. Por exemplo, nos bancos, transações podem ser vetorizadas e comparadas com padrões históricos para identificar atividades fraudulentas potenciais.

O poder dos bancos de dados de vetores reside em sua capacidade de entender e processar similaridade em qualquer domínio – seja em estruturas moleculares, cenários de direção, padrões financeiros ou ameaças de segurança. À medida que a IA continua a evoluir, estamos apenas arranhando a superfície do que é possível. A capacidade de processar e encontrar padrões em vastas quantidades de dados não estruturados abre possibilidades que estamos apenas começando a explorar.

Como os desenvolvedores e as empresas podem melhor se envolver com a Zilliz e o Milvus para aproveitar a tecnologia de banco de dados de vetores em seus projetos de IA?

Existem dois principais caminhos para aproveitar a tecnologia de banco de dados de vetores com a Zilliz e o Milvus, cada um adaptado a diferentes necessidades e prioridades. Se você valoriza flexibilidade e personalização, o Milvus, nossa solução de código aberto, é a melhor escolha. Com o Milvus, você pode:

• Experimentar livremente e aprender a tecnologia ao seu próprio ritmo
• Personalizar a solução para suas necessidades específicas
• Contribuir para o desenvolvimento e modificar a base de código
• Mantenha o controle total sobre sua infraestrutura

No entanto, se você deseja se concentrar em construir sua aplicação sem gerenciar a infraestrutura, a Zilliz Cloud é a escolha ótima. Ela oferece:

• Uma solução pronta para uso com implantação em um clique
• Segurança e conformidade de classe empresarial
• Alta disponibilidade e estabilidade
• Desempenho otimizado sem sobrecarga operacional

Pense da seguinte maneira: se você gosta de “brincar” e quer flexibilidade máxima, vá com o Milvus. Se você quer minimizar a complexidade operacional e ir direto para construir sua aplicação, escolha a Zilliz Cloud.

Ambos os caminhos o levarão ao seu destino – é apenas uma questão de quanto do caminho você deseja controlar versus quão rapidamente você precisa chegar

Obrigado pela grande entrevista, leitores que desejam aprender mais devem visitar Zilliz ou Milvus.