Edo Liberty, Oprichter en Hoofdwetenschapper bij Pinecone – Interviewreeks

Edo Liberty, Oprichter en Hoofdwetenschapper bij Pinecone, is een toonaangevende expert in grote schaal data systemen en machine learning. Voordat hij Pinecone lanceerde – de vector database die is gebouwd voor prestaties en schaal – was hij directeur van onderzoek bij AWS en hoofd van Amazon (AMZN ) AI Labs, waar zijn team de kern technologieën ontwikkelde achter SageMaker, OpenSearch, Kinesis en meer. Hij leidde eerder de onderzoeksafdeling van Yahoo in New York, waar hij machine learning platforms en toepassingen ontwikkelde voor zoekopdrachten, advertenties en beveiliging. Zijn werk richt zich op algoritmes en wiskundige grondslagen voor het omgaan met enorme datasets, waaronder dimensie reductie, clustering, streaming en grote schaal lineaire algebra.

Pinecone is een volledig beheerde vector database die is gebouwd om schaalbare en efficiënte zoekopdrachten mogelijk te maken over grote, dynamische datasets. Het ondersteunt zowel dichte als sparse embeddings, real-time indexering en metadata-gebaseerde filtering, terwijl het naadloos integreert met toonaangevende clouds, modellen en frameworks. Met serverless auto-scaling, ondernemingsklasse beveiliging en compliance standaarden zoals SOC 2, ISO 27001, GDPR en HIPAA, biedt Pinecone een betrouwbare basis voor het implementeren van grote schaal AI-toepassingen.

U heeft Pinecone opgericht in 2019 na onderzoek te hebben gedaan bij Amazon AI Labs en systemen zoals SageMaker te hebben gebouwd. Wat inspireerde u om Pinecone te lanceren en zich specifiek te richten op vector databases?

Bij AWS bouwden onze ML-team geweldige systemen, maar wanneer het om geheugen ging, was er geen manier om semantisch te zoeken door enorme hoeveelheden ongestructureerde data. Dit vereiste extreem gespecialiseerde ingenieurs die wisten hoe ze complexe vector zoekoplossingen moesten bouwen. Ik wist dat als er een manier was voor mensen om gemakkelijk toegang te krijgen tot de semantische rijkdom die vectors vastleggen en deze te combineren met geavanceerde modellen, dan kon iedereen de waarde van AI voor zichzelf versnellen. Dus verliet ik AWS met het doel om echt te veranderen hoe men het meest waardevolle uit ongestructureerde data kon halen met behulp van de kracht van AI.

Pinecone is uitgegroeid tot het definierende bedrijf in de vector database ruimte. Kijkend terug, wat waren de grootste technische of markt uitdagingen die u moest overwinnen om deze nieuwe categorie te vestigen?

De grootste uitdaging? Niemand wist wat een vector database was! We moesten de markt onderwijzen over wat we aan het bouwen waren en waarom het belangrijk was. We vroegen onze klanten wat ze het zelf noemden en ze vertelden ons dat het een vector database was.

Once anderen begonnen te begrijpen, vroegen ze waarom ze niet gewoon open source konden gebruiken? En we moesten uitleggen over de beperkingen van open source en de schaal-prestatie trade-offs die je zou krijgen – en, na al dat, zou je nog steeds ervaren ingenieurs nodig hebben om je infrastructuur te bouwen. Dat is waarom we altijd een beheerde service zijn en ons richten op gebruikerservaring. Ons systeem is extreem complex onder de motorkap omdat je deze gespecialiseerde infrastructuur nodig hebt voor miljard-schaal overeenkomst zoekopdrachten. Maar we maken het toegankelijk met een API-aanroep die elke ontwikkelaar kan gebruiken.

Dit betekende het afleiden van alle complexiteit van benaderde dichtstbijzijnde buur algoritmes, indexbeheer en gedistribueerde systemen. Ontwikkelaars willen niet nadenken over HNSW parameters, ze willen gewoon dat het werkt.

U heeft onlangs de overstap gemaakt van CEO naar Hoofdwetenschapper, en Ash Ashutosh heeft de leiding over het bedrijf overgenomen. Wat was de motivatie achter deze beslissing, en hoe ziet u uw rol evolueren in de volgende fase van Pinecone?

Pinecone, als bedrijf, is een AI-bedrijf en onderzoeksgericht bedrijf. We zijn waar we vandaag zijn omdat we de zoekopdracht, systemen en algoritmes hebben herdefinieerd. En, we zijn erg actief geweest in de academische wereld, met het publiceren van technische rapporten en papers, het geven van lezingen en het onderwijzen van de markt, zelfs met het schrijven van tekstboeken en het geven van universitaire cursussen over AI en geheugen. Als het bedrijf groeit, moeten we deze inspanningen formaliseren onder een onderzoeksafdeling die is gescheiden van de rest van het bedrijf. Denk aan DeepMind en Google (GOOGL ) als voorbeeld. Gaande naar de toekomst, zal ik mijn energie richten op het leiden van ons onderzoek, het maken van AI-kennis, en het bouwen van de volgende set van contextuele producten van Pinecone.

Tegelijkertijd zal Ash een fantastische CEO en leider zijn voor Pinecone. Hij heeft meerdere infrastructuurbedrijven opgericht en geschaald en weet hoe hij een bedrijf zoals Pinecone effectief kan leiden. Hij is diep gekend en creatief over onze technologie en onze markt. En, hij is intens klantgericht. Ash en ik zullen diep samenwerken om het bedrijf en onze business te laten groeien.

In uw blogpost schreef u over het focussen op “het maken van AI-kennis”. Kunt u uitleggen wat dat in de praktijk betekent en hoe Pinecone’s technologie uniek is om dit mogelijk te maken?

AI zonder geheugen is als een briljant persoon met amnesie: veel intelligentie, maar geen context. “Het maken van AI-kennis” betekent dat AI-systemen de mogelijkheid geven om toegang te krijgen tot, te begrijpen en te redeneren over enorme hoeveelheden informatie in real-time.

We maken het mogelijk voor AI-gestuurde toepassingen om relevante inzichten te bieden in real-time, getrokken uit semantisch begrepen en georganiseerde data, en ervoor te zorgen dat AI-systemen niet alleen gissen, maar in staat zijn om kennis op te halen en te synthetiseren op aanvraag. Dit resulteert in meer accurate, geïnformeerde en up-to-date uitvoer voor eindgebruikers.

We doen dit door alle componenten en mogelijkheden te bieden voor hoge kwaliteit, accurate eind-tot-eind-opname in één plaats, samen met industrie-leidende prestaties voor grote schaal opname.

Als u “Long Term Memory in AI” heeft onderwezen aan Princeton, hoe ziet u de relatie tussen vector databases en de toekomst van AI-modellen? Gelooft u dat geheugen en context de ontbrekende ingrediënten zijn voor de huidige grote modellen?

Zeker. LLM’s zijn patroonherkenningsmachines – briljante, maar nog steeds fundamenteel beperkt door hun trainingsdata cutoff en contextvensters. De cursus die ik met Matthijs Douze van Meta gaf, richtte zich op de algoritmes die vector zoekopdrachten mogelijk maken over enorme hoeveelheden data. De toekomst is niet grotere modellen, maar slimmere opname over meer data, in real-time.

Veel ondernemingen worstelen met het verplaatsen van AI-piloten naar productie-schaal implementaties. Hoe helpt Pinecone deze kloof te overbruggen, en welke beste praktijken heeft u waargenomen bij succesvolle klanten?

De kloof komt meestal neer op drie dingen: prestaties (en kosten) op schaal, beveiliging en complexiteit. Een demo die werkt met 10 miljoen documenten valt uit elkaar bij 10 miljard. Het uitvoeren van iets voor een uur is anders dan het 24/7 uitvoeren met geen tolerantie voor downtime. Dat is waarom we ons hebben gericht op onze serverless architectuur, ondernemingsklasse functies en gebruiksgemak.

Het belangrijkste om te doen is gewoon te beginnen. Onze klanten zijn vaak verbaasd over hoeveel ze kunnen doen zonder zelfs maar met ons te praten. We hebben het zo ontworpen, maar zijn er altijd voor hen als ze ons nodig hebben.

U heeft uw carrière doorgebracht in het schakelen tussen academia, grote technologie onderzoek (Yahoo, AWS) en ondernemerschap. Hoe hebben deze verschillende omgevingen uw aanpak beïnvloed voor het bouwen van Pinecone?

Academia leerde me om vanuit de eerste principes te denken. Hoe om abstract en geweldige oplossingen te ontwerpen. Bij Yahoo en AWS leerde ik hoe ik eenvoudige data platforms kon bouwen die ingenieurs graag op bouwen.

Ondernemerschap is waar je leert dat de beste technologie alleen wint als het echte problemen oplost op een manier die mensen kunnen gebruiken.

Deze mix is cruciaal voor wat we bouwen. We schrijven niet alleen onderzoeksartikelen of bouwen technologie voor de technologie zelf. Elke innovatie moet het leven van ontwikkelaars gemakkelijker maken en ondernemingen krachtiger.

De convergentie van zoekopdrachten en AI voelt als een van de grootste verschuivingen in computing. Waar denkt u dat dit naartoe gaat in de komende vijf jaar, en hoe zal Pinecone’s werk helpen bij het vormgeven van die toekomst?

Zoekopdrachten worden conversational en contextueel. Over vijf jaar zult u niet “zoeken” – u zult dialogen hebben met AI-systemen die niet alleen uw vraag begrijpen, maar ook uw intentie, uw context, uw geschiedenis. Elke interactie zal worden geïnformeerd door enorme kennisbases die in real-time worden bijgewerkt.

We bouwen de infrastructuur hiervoor. Onze vector database is slechts het begin. Ik zie een toekomst waarin elke toepassing ingebedde context heeft, waar AI niet hallucineert omdat het is gebaseerd op data, waar de grens tussen zoeken en weten verdwijnt.

Als Hoofdwetenschapper, zult u meer hands-on zijn met data, modellen en prototyping. Welke gebieden van onderzoek zijn u het meest enthousiast over om nu in te duiken?

Oh man, waar moet ik beginnen? Voor de korte-middellange termijn, duik ik dieper in efficiëntie en gebruiksgemak. Kunnen we vector zoekopdrachten 10x sneller maken terwijl we het 10x goedkoper maken? Kunnen we onze API’s nog eenvoudiger maken dan ze nu zijn? Dit zijn moeilijke problemen.

Voor de langere termijn, ben ik geobsedeerd door de intersectie van opname en redenering. Hoe bouwt u systemen die niet alleen relevante feiten vinden, maar ook de relaties tussen hen begrijpen? En dan gebruiken die context om kennis te creëren en krachtigere agenten.

Tenslotte, op een persoonlijk niveau: het terugtreden uit de CEO-rol, wat maakt u het meest enthousiast over deze overgang, en welke doorbraken hoopt u te ontgrendelen in Pinecone’s volgende fase?

Ik ben het gelukkigst wanneer ik diep in de code zit, werk met ons onderzoeksteam, en die “wow, dit werkt echt!” momenten heb op 2 uur ‘s nachts.

Mijn droom? Om opname zo goed te maken dat het onzichtbaar wordt. Waar ontwikkelaars contextuele toepassingen kunnen bouwen zonder na te denken over embeddings of indexes of iets dergelijks en het gewoon werkt.

We zijn op dit ongelofelijke moment waar AI en data convergeren. Het potentieel is eindeloos en ik mag mijn dagen doorbrengen met het maken van die toekomst nu.

Bedankt voor het geweldige interview, lezers die meer willen leren, moeten Pinecone bezoeken Pinecone.