Dr. Ram Sriharsha, VP of Engineering at Pinecone – Série d’entretiens

Dr. Ram Sriharsha, est le VP de l’ingénierie et de la R&D chez Pinecone.

Avant de rejoindre Pinecone, Ram a occupé des postes de VP chez Yahoo, Databricks et Splunk. Chez Yahoo, il a été à la fois ingénieur logiciel principal et scientifique de recherche ; chez Databricks, il a été le responsable du produit et de l’ingénierie pour la plate-forme d’analyse unifiée pour la génomique ; et, au cours de ses trois ans chez Splunk, il a occupé plusieurs postes, notamment celui de Sr Principal Scientist, VP Engineering et Distinguished Engineer.

Pinecone est une base de données vectorielle entièrement gérée qui facilite l’ajout de la recherche vectorielle aux applications de production. Elle combine les bibliothèques de recherche vectorielle, des fonctionnalités telles que le filtrage et une infrastructure distribuée pour offrir des performances élevées et une fiabilité à toute échelle.

Qu’est-ce qui vous a initialement attiré vers l’apprentissage automatique ?

Les statistiques à haute dimension, la théorie de l’apprentissage et des sujets comme ceux-là m’ont attiré vers l’apprentissage automatique. Ils sont mathématiquement bien définis, peuvent être raisonnés et offrent des insights fondamentaux sur ce que signifie l’apprentissage et sur la façon de concevoir des algorithmes qui peuvent apprendre efficacement.

Auparavant, vous étiez Vice-Président de l’ingénierie chez Splunk, une plate-forme de données qui aide à transformer les données en action pour l’observabilité, l’informatique, la sécurité et plus encore. Quels étaient certains de vos principaux acquis de cette expérience ?

Je n’avais pas réalisé jusqu’à ce que je rejoigne Splunk à quel point les cas d’utilisation de la recherche d’entreprise sont divers : les gens utilisent Splunk pour l’analyse des journaux, l’observabilité et l’analyse de la sécurité parmi de nombreux autres cas d’utilisation. Et ce qui est commun à beaucoup de ces cas d’utilisation est l’idée de détecter des événements similaires ou très dissimilaires (ou anomaux) dans les données non structurées. Cela s’avère être un problème difficile et les moyens traditionnels de recherche dans de telles données ne sont pas très évolutifs. Au cours de mon séjour chez Splunk, j’ai initié des recherches dans ces domaines sur la façon dont nous pourrions utiliser l’apprentissage automatique (et l’apprentissage profond) pour l’analyse des journaux, l’analyse de la sécurité, etc. Grâce à ce travail, je suis arrivé à la conclusion que les embeddings vectoriels et la recherche vectorielle finiraient par être une primitive fondamentale pour de nouvelles approches dans ces domaines.

Pouvez-vous nous décrire ce qu’est la recherche vectorielle ?

Dans la recherche traditionnelle (également connue sous le nom de recherche par mot-clé), vous recherchez des correspondances de mots-clés entre une requête et des documents (ce peut être des tweets, des documents Web, des documents juridiques, etc.). Pour ce faire, vous divisez votre requête en jetons, récupérez les documents qui contiennent le jeton donné et fusionnez et classez pour déterminer les documents les plus pertinents pour une requête donnée.

Le principal problème, bien sûr, est que pour obtenir des résultats pertinents, votre requête doit avoir des correspondances de mots-clés dans le document. Un problème classique de la recherche traditionnelle est : si vous recherchez “pop”, vous correspondrez à “musique pop”, mais ne correspondrez pas à “soda”, etc. car il n’y a pas de chevauchement de mots-clés entre “pop” et les documents contenant “soda”, même si nous savons que, dans de nombreuses régions des États-Unis, “pop” signifie la même chose que “soda”.

Dans la recherche vectorielle, vous commencez par convertir à la fois les requêtes et les documents en un vecteur dans un espace à haute dimension. Cela est généralement réalisé en passant le texte à travers un modèle d’apprentissage profond comme les LLM d’OpenAI ou d’autres modèles de langage. Ce que vous obtenez en résultat est un tableau de nombres à virgule flottante qui peut être considéré comme un vecteur dans un espace à haute dimension.

L’idée fondamentale est que les vecteurs voisins dans cet espace à haute dimension sont également sémantiquement similaires. En revenant sur notre exemple de “soda” et “pop”, si le modèle est formé sur le bon corpus, il est probable qu’il considère “pop” et “soda” comme sémantiquement similaires et que les embeddings correspondants seront proches les uns des autres dans l’espace d’embedding. Si c’est le cas, alors la récupération de documents voisins pour une requête donnée devient le problème de la recherche des plus proches voisins du vecteur de requête correspondant dans cet espace à haute dimension.

Pouvez-vous décrire ce qu’est la base de données vectorielle et comment elle permet de construire des applications de recherche vectorielle à haute performance ?

Une base de données vectorielle stocke, indexe et gère ces embeddings (ou vecteurs). Les principaux défis que résout une base de données vectorielle sont :

• Construire un index de recherche efficace sur les vecteurs pour répondre aux requêtes de plus proches voisins
• Construire des indices et des structures de données auxiliaires efficaces pour prendre en charge le filtrage des requêtes. Par exemple, supposez que vous vouliez rechercher uniquement un sous-ensemble du corpus, vous devriez être en mesure d’utiliser l’index de recherche existant sans avoir à le reconstruire

Prend en charge les mises à jour efficaces et conservez à la fois les données et l’index de recherche frais, cohérents, durables, etc.

Quels sont les différents types d’algorithmes d’apprentissage automatique utilisés chez Pinecone ?

Nous travaillons généralement sur les algorithmes de recherche de plus proches voisins approximatifs et développons de nouveaux algorithmes pour mettre à jour, interroger et traiter de grandes quantités de données de manière aussi rentable que possible.

Nous travaillons également sur des algorithmes qui combinent la récupération dense et épaisse pour améliorer la pertinence de la recherche.

Quels sont certains des défis derrière la construction d’une recherche évolutives ?

Alors que la recherche de plus proches voisins approximatifs a fait l’objet de recherches pendant des décennies, nous croyons qu’il reste encore beaucoup à découvrir.

En particulier, lorsqu’il s’agit de concevoir une recherche de plus proches voisins à grande échelle qui est rentable, lors de la réalisation d’un filtrage efficace à grande échelle ou lors de la conception d’algorithmes qui prennent en charge des mises à jour à haute fréquence et des index généralement frais sont tous des problèmes difficiles aujourd’hui.

Quels sont certains des différents types de cas d’utilisation pour lesquels cette technologie peut être utilisée ?

Le spectre des cas d’utilisation pour les bases de données vectorielles est en constante évolution. Outre ses utilisations dans la recherche sémantique, nous la voyons également utilisée dans la recherche d’images, la récupération d’images, l’IA générative, l’analyse de la sécurité, etc.

Quelle est votre vision pour l’avenir de la recherche ?

Je pense que l’avenir de la recherche sera piloté par l’IA, et je ne pense pas que cela soit très loin. Dans cet avenir, j’attends que les bases de données vectorielles soient une primitive fondamentale. Nous aimons à penser que les bases de données vectorielles sont la mémoire à long terme (ou la base de connaissances externe) de l’IA.

Je vous remercie pour cette grande interview, les lecteurs qui souhaitent en savoir plus peuvent visiter Pinecone.