Edo Liberty, Fondateur et Chef Scientifique de Pinecone – Série d’entretiens

Edo Liberty, Fondateur et Chef Scientifique de Pinecone, est un expert de premier plan dans les systèmes de données à grande échelle et l’apprentissage automatique. Avant de lancer Pinecone – la base de données vectorielle conçue pour les performances et l’évolutivité – il était Directeur de la Recherche chez AWS et Chef du Laboratoire d’Intelligence Artificielle d’Amazon (AMZN ), où son équipe a développé les technologies de base derrière SageMaker, OpenSearch, Kinesis et bien d’autres. Il a précédemment dirigé le laboratoire de recherche de Yahoo à New York, améliorant les plateformes et les applications d’apprentissage automatique dans les domaines de la recherche, de la publicité et de la sécurité. Ses travaux portent sur les algorithmes et les fondements mathématiques pour la manipulation de jeux de données massifs, allant de la réduction de dimensionnalité à la mise en grappe, au traitement de flux et à l’algèbre linéaire à grande échelle.

Pinecone est une base de données vectorielle entièrement gérée conçue pour alimenter des recherches évolutives et efficaces à travers de grands ensembles de données dynamiques. Elle prend en charge à la fois les embeddings denses et épars, l’indexation en temps réel et le filtrage basé sur les métadonnées, tout en s’intégrant sans effort avec les principaux clouds, modèles et frameworks. Avec un auto-étalonnage sans serveur, une sécurité de niveau entreprise et des normes de conformité telles que SOC 2, ISO 27001, GDPR et HIPAA, Pinecone fournit une base fiable pour le déploiement d’applications d’intelligence artificielle à grande échelle.

Vous avez fondé Pinecone en 2019 après avoir dirigé la recherche chez Amazon AI Labs et avoir construit des systèmes comme SageMaker. Qu’est-ce qui vous a inspiré pour lancer Pinecone et vous concentrer spécifiquement sur les bases de données vectorielles ?

Chez AWS, notre équipe d’apprentissage automatique a construit des systèmes incroyables, mais lorsqu’il s’agissait de mémoire, il n’y avait pas de moyen de rechercher sémantiquement à travers d’immenses quantités de données non structurées. Cela nécessitait des ingénieurs extrêmement spécialisés qui savaient comment construire des solutions de recherche vectorielle complexes. Je savais que si il y avait un moyen pour les gens d’accéder facilement à la richesse sémantique que les vecteurs capturent et de la combiner avec des modèles sophistiqués, alors n’importe qui pourrait accélérer la valeur de l’intelligence artificielle pour lui-même. Alors, je suis parti d’AWS avec l’objectif de transformer vraiment la façon de rendre le plus simple possible pour tirer le maximum de valeur de données non structurées propriétaires en utilisant le pouvoir de l’intelligence artificielle.

Pinecone est devenu l’entreprise définissant le secteur des bases de données vectorielles. En regardant en arrière, quels ont été les plus grands défis techniques ou de marché que vous avez dû surmonter pour établir cette nouvelle catégorie ?

Le plus grand défi ? Personne ne savait ce qu’était une base de données vectorielle ! Nous avons dû éduquer le marché sur ce que nous construisions et pourquoi c’était important. Nous avons demandé à nos clients comment ils l’appelaient eux-mêmes et ils nous ont dit qu’il s’agissait d’une base de données vectorielle.

Une fois que les autres ont commencé à comprendre, les gens nous ont demandé pourquoi ils ne pouvaient pas simplement utiliser des logiciels open source ? Et nous devions expliquer toutes les limites des logiciels open source et les compromis entre l’évolutivité et les performances que vous obtiendriez – et, après tout cela, vous auriez toujours besoin d’ingénieurs expérimentés pour construire votre infrastructure. C’est pourquoi nous sommes toujours un service géré et nous nous concentrons sur l’expérience utilisateur. Notre système est extrêmement complexe sous le capot car vous avez besoin de cette infrastructure spécialisée pour la recherche de similarité à grande échelle. Mais nous la rendons accessible avec un appel d’API que n’importe quel développeur peut utiliser.

Cela a signifié abstraire toute la complexité des algorithmes d’approximation du plus proche voisin, de la gestion des index et des systèmes distribués. Les développeurs ne veulent pas penser aux paramètres HNSW, ils veulent juste que cela fonctionne.

Vous venez de passer du poste de PDG à celui de Chef Scientifique, en faisant venir Ash Ashutosh pour diriger l’entreprise. Qu’est-ce qui a motivé cette décision, et comment voyez-vous votre rôle évoluer dans le prochain chapitre de Pinecone ?

Pinecone, en tant qu’entreprise, est une entreprise d’intelligence artificielle et de recherche. Nous sommes arrivés où nous sommes aujourd’hui parce que nous avons redéfini la recherche, les systèmes et les algorithmes. Et nous avons été très actifs dans le domaine académique, en publiant des rapports techniques et des articles, en donnant des conférences et en éduquant le marché, même en écrivant des manuels et en donnant des cours universitaires sur l’intelligence artificielle et la mémoire. À mesure que l’entreprise grandit, nous devons formaliser ces efforts sous un laboratoire de recherche qui est séparé du reste de l’entreprise. Pensez à DeepMind et Google (GOOGL ) comme exemple. À l’avenir, je vais me concentrer sur la direction de nos recherches, en rendant l’intelligence artificielle plus savante et en construisant la prochaine série de produits contextuels de Pinecone.

En même temps, Ash sera un excellent PDG et leader pour Pinecone. Il a fondé et fait grandir plusieurs entreprises d’infrastructure et sait comment opérer une entreprise comme Pinecone de manière très efficace. Il est profondément compétent et créatif en ce qui concerne notre technologie et notre marché. Et il est intensément obsédé par les clients. Ash et moi allons travailler en profondeur pour faire grandir l’entreprise et nos affaires.

Dans votre billet de blog, vous avez écrit sur la nécessité de « rendre l’intelligence artificielle plus savante ». Pouvez-vous expliquer ce que cela signifie dans la pratique et comment la technologie de Pinecone est unique pour permettre cela ?

L’intelligence artificielle sans mémoire est comme une personne brillante avec de l’amnésie : beaucoup d’intelligence, mais pas de contexte. « Rendre l’intelligence artificielle plus savante » signifie donner aux systèmes d’intelligence artificielle la capacité d’accéder, de comprendre et de raisonner sur d’immenses quantités d’informations en temps réel.

Nous permettons aux applications alimentées par l’intelligence artificielle de fournir des insights pertinents en temps réel, tirés de données sémantiquement comprises et organisées, et en nous assurant que les systèmes d’intelligence artificielle ne font pas que deviner, mais sont capables de récupérer et de synthétiser des connaissances à la demande. Cela aboutit à des sorties plus précises, plus informées et plus à jour pour les utilisateurs finals.

Nous le faisons en fournissant tous les composants et les capacités pour une récupération de haute qualité, précise et complète en un seul endroit, ainsi que des performances de pointe pour la récupération à grande échelle.

Ayant enseigné « La mémoire à long terme dans l’intelligence artificielle » à Princeton, comment voyez-vous la relation entre les bases de données vectorielles et l’avenir des modèles d’intelligence artificielle ? Croyez-vous que la mémoire et le contexte sont les ingrédients manquants pour les grands modèles d’aujourd’hui ?

Absolument. Les LLM sont des machines de reconnaissance de modèles – des machines brillantes, mais fondamentalement limitées par leur données d’entraînement et leurs fenêtres de contexte. Le cours que j’ai enseigné avec Matthijs Douze de Meta s’est concentré sur les algorithmes qui rendent possible la recherche vectorielle sur d’immenses quantités de données. L’avenir n’est pas dans les modèles plus grands, mais dans la récupération plus intelligente sur plus de données, en temps réel.

De nombreuses entreprises ont du mal à passer des pilotes d’intelligence artificielle aux déploiements à grande échelle. Comment Pinecone aide-t-il à combler ce fossé, et quels sont les meilleures pratiques que vous avez observées chez les clients qui ont réussi ?

Le fossé vient généralement de trois choses : les performances (et le coût) à grande échelle, la sécurité et la complexité. Un démonstration qui fonctionne avec 10 millions de documents échoue à 10 milliards. Exécuter quelque chose pendant une heure est différent de l’exécuter 24 heures sur 24 avec zéro tolérance aux temps d’arrêt. C’est pourquoi nous nous sommes concentrés sur notre architecture sans serveur, nos fonctionnalités de niveau entreprise et notre facilité d’utilisation.

La chose la plus importante à faire est de simplement commencer. Nos clients sont souvent surpris par tout ce qu’ils peuvent faire sans même avoir à nous parler. Nous l’avons conçu ainsi à dessein, mais nous sommes toujours là pour nos clients lorsqu’ils ont besoin de nous.

Vous avez passé votre carrière à passer entre l’académie, la recherche en technologie (Yahoo, AWS) et l’entrepreneuriat. Comment ces différents environnements ont-ils façonné votre approche de la construction de Pinecone ?

L’académie m’a enseigné à penser à partir de principes fondamentaux. Comment concevoir et créer de grandes solutions. Chez Yahoo et AWS, j’ai appris à construire des plateformes de données simples que les ingénieurs adorent construire.

L’entrepreneuriat est où vous apprenez que la meilleure technologie ne gagne que si elle résout de vrais problèmes d’une manière que les gens peuvent vraiment utiliser.

Ce mélange est crucial pour ce que nous construisons. Nous ne construisons pas seulement des rapports de recherche ou de la technologie pour la technologie elle-même. Chaque innovation doit rendre la vie des développeurs plus facile et les applications des entreprises plus puissantes.

La convergence de la recherche et de l’intelligence artificielle ressemble à l’un des plus grands changements dans l’informatique. Où pensez-vous que cela mènera dans les cinq prochaines années, et comment le travail de Pinecone contribuera-t-il à façonner cet avenir ?

La recherche devient conversationnelle et contextuelle. Dans cinq ans, vous n’aurez pas de « recherche » – vous aurez des dialogues avec des systèmes d’intelligence artificielle qui comprennent non seulement votre requête mais votre intention, votre contexte, votre histoire. Chaque interaction sera informée par des bases de connaissances vastes mises à jour en temps réel.

Nous construisons l’infrastructure pour cela. Notre base de données vectorielle n’est que le début. Je vois un avenir où chaque application a un contexte intégré, où l’intelligence artificielle ne fait pas d’hallucinations parce qu’elle est ancrée dans les données, où la frontière entre la recherche et la connaissance disparaît.

En tant que Chef Scientifique, vous allez être plus impliqué dans les données, les modèles et les prototypes. Quels domaines de recherche vous passionnent le plus en ce moment ?

Oh, où commencer ? Pour le court et le moyen terme, je plonge plus profondément dans l’efficacité et la facilité d’utilisation. Pouvez-vous rendre la recherche vectorielle 10 fois plus rapide tout en la rendant 10 fois moins chère ? Pouvez-vous rendre nos API encore plus simples qu’elles ne le sont aujourd’hui ? Ce sont des problèmes difficiles.

À long terme, je suis obsédé par l’intersection de la récupération et du raisonnement. Comment construire des systèmes qui ne trouvent pas seulement des faits pertinents mais qui comprennent les relations entre eux ? Et puis utilisent ce contexte pour créer une intelligence artificielle plus savante et des agents plus puissants.

Enfin, sur un plan personnel : en reculant du rôle de PDG, qu’est-ce qui vous excite le plus dans cette transition, et quels types de percées espérez-vous débloquer dans la prochaine étape de Pinecone ?

Je suis le plus heureux lorsque je suis profondément dans le code, en travaillant avec notre équipe de recherche, en ayant ces moments « wow, cela fonctionne vraiment ! » à 2 heures du matin.

Mon rêve ? Rendre la récupération si bonne qu’elle devienne invisible. Où les développeurs peuvent construire des applications contextuelles sans penser aux embeddings ou aux index ou à tout cela et cela fonctionne simplement.

Nous sommes à ce moment incroyable où l’intelligence artificielle et les données convergent. Le potentiel est illimité et je passe mes journées à faire que cet avenir se réalise maintenant.

Merci pour cette grande interview, les lecteurs qui souhaitent en savoir plus peuvent visiter Pinecone.