Edo Liberty, grunnlegger og sjefsforsker i Pinecone – Intervju-serie

Edo Liberty, grunnlegger og sjefsforsker i Pinecone, er en ledende ekspert på store skala data systemer og maskinlæring. Før han lanserte Pinecone – en vektor database bygget for ytelse og skala – var han forskningsdirektør i AWS og sjef for Amazon (AMZN ) AI Labs, hvor hans team utviklet kjerne teknologier bak SageMaker, OpenSearch, Kinesis og mer. Han ledet tidligere Yahoo’s New York forskningslab, og fremmet maskinlæring plattformer og applikasjoner over søk, annonsering og sikkerhet. Hans arbeid handler om algoritmer og matematiske grunnlag for håndtering av massive datasett, inkludert dimensjonsreduksjon, klustering, strømming og stor skala lineær algebra.

Pinecone er en fullstendig administrert vektor database bygget for å gi skalerbar og effektiv søk over store, dynamiske datasett. Den støtter både tette og sparsomme innlegg, sanntidsindeksering og metadata-basert filtrering, samt integrerer sammen med ledende skytjenester, modeller og rammer. Med serverless auto-skaling, bedriftsgradert sikkerhet og standarder som SOC 2, ISO 27001, GDPR og HIPAA, gir Pinecone en pålitelig basis for å distribuere store skala AI-applikasjoner.

Du grunnla Pinecone i 2019 etter å ha ledet forskning i Amazon AI Labs og bygget systemer som SageMaker. Hva inspirerte deg til å lansere Pinecone og fokusere spesielt på vektor databaser?

Vi bygde fantastiske systemer i AWS, men når det kom til minne, var det ingen måte å semantisk søke gjennom enorme mengder ustrukturert data på. Det krevde ekstremt spesialiserte ingeniører som visste hvordan de skulle bygge komplekse vektor søk baserte løsninger. Jeg visste at hvis det var en måte for folk å enkelt få tilgang til den semantiske rikdommen som vektorer fanget og kombinerte det med sofistikerte modeller, så kunne hvem som helst akselerere verdien av AI for seg selv. Så jeg forlot AWS med målet om å virkelig transformere hvordan man kan gjøre det så enkelt som mulig å få mest mulig verdi ut av egen ustrukturert data ved hjelp av AI-kraften.

Pinecone har vokst til å bli den definierende selskapet i vektor database rommet. Ser du tilbake, hva var de største tekniske eller markedsmessige hindrene du måtte overvinne for å etablere denne nye kategorien?

Den største utfordringen? Ingen visste hva en vektor database var! Vi måtte utdanne markedet om hva vi bygde og hvorfor det var viktig. Vi spurte våre kunder hva de kalte det selv, og de fortalte oss at det var en vektor database.

Når andre begynte å fatte, spurte de hvorfor de ikke kunne bruke åpen kilde? Og vi måtte forklare alle begrensningene ved åpen kilde og skala-ytelses kompromisser du ville få – og etter all dette, ville du fortsatt trenge erfarne ingeniører for å bygge din infrastruktur. Det er hvorfor vi alltid har vært en administrert tjeneste og fokusert på brukeropplevelsen. Vårt system er ekstremt komplisert under panseret fordi du trenger denne spesialiserte infrastrukturen for milliard-skala lignende søk. Men vi gjør det tilgjengelig med en API-kall som enhver utvikler kan bruke.

Dette betød å abstrahere bort all kompleksiteten ved omtrentlig nærmeste nabo algoritmer, indeks håndtering og distribuerte systemer. Utviklere vil ikke tenke på HNSW-parametere, de bare vil at det skal fungere.

Du har nylig gått over fra CEO til sjefsforsker, og hentet inn Ash Ashutosh for å lede selskapet. Hva motiverte dette valget, og hvordan ser du på din rolle utvikling i Pinecones neste kapittel?

Pinecone, som selskap, er et AI-selskap og forskningsbasert selskap. Vi har kommet til hvor vi er i dag fordi vi har redefinert søk, systemer og algoritmer. Og, vi har vært svært akademisk aktive, publisert tekniske rapporter og papirer, holdt foredrag og utdannet markedet, selv skrevet lærebøker og holdt universitetskurser om AI og minne. Ettersom selskapet vokser, må vi formalisere disse anstrengelsene under et forskningslab som er skilt fra resten av bedriften. Tenk på DeepMind og Google (GOOGL ) som et eksempel. Fremover vil jeg fokusere min energi på å lede vårt forskning, gjøre AI kunnskapsrik, og bygge den neste rekken av kontekstuelle produkter fra Pinecone.

Sammen med Ash vil være en fantastisk CEO og leder for Pinecone. Han grunnla og skalerte flere infrastruktur selskaper og vet hvordan man opererer et selskap som Pinecone svært effektivt. Han er dypt kunnskapsrik og kreativ om vår teknologi og vår marked. Og, han er intensivt kunde-obsessiv. Ash og jeg vil samarbeide dypt om å vokse selskapet og vår forretning.

I din blogginnlegg skrev du om å fokusere på “å gjøre AI kunnskapsrik”. Kan du pakke ut hva det betyr i praksis og hvordan Pinecones teknologi er unikt posisjonert for å muliggjøre det?

AI uten minne er som en briljant person med amnesi: mye intelligens, men ingen kontekst. “Å gjøre AI kunnskapsrik” betyr å gi AI-systemer evnen til å aksessere, forstå og resonnere over enorme mengder informasjon i sanntid.

Vi muliggjør AI-drevne applikasjoner for å gi relevante innsikter i sanntid, trukket fra semantisk forstått og organisert data, og sikrer at AI-systemer ikke bare gjetter, men kan hente og syntetisere kunnskap på forespørsel. Dette resulterer i mer nøyaktige, informerte og oppdaterte utdata for sluttbrukere.

Vi gjør dette ved å tilby alle komponenter og kapasiteter for høykvalitets, nøyaktig slutt-til-slutt-henting på ett sted, sammen med industri-ledende ytelse for stor skala henting.

Etter å ha undervist “Langvarig minne i AI” på Princeton, hvordan ser du på forholdet mellom vektor databaser og fremtiden for AI-modeller? Tror du at minne og kontekst er de manglende ingrediensene for dagens store modeller?

Absolutt. LLM-er er mønster-matching maskiner – briljante, men likevel fundamentalt begrensede av deres treningsdata-avkorting og kontekst-vinduer. Kursen jeg underviste med Matthijs Douze fra Meta fokuserte på algoritmene som gjør vektor søk mulig over massive mengder data. Fremtiden er ikke større modeller, men smartere henting over mer data, i sanntid.

Mange bedrifter sliter med å flytte fra AI-piloter til produksjonsskala distribusjoner. Hvordan hjelper Pinecone med å brygge denne gapen, og hva er de beste praksisene du har observert fra suksessfulle kunder?

Gapet kommer vanligvis ned til tre ting: ytelse (og kostnad) på skala, sikkerhet og kompleksitet. En demo som fungerer med 10 millioner dokumenter faller fra sammen ved 10 milliarder. Å kjøre noe i en time er forskjellig fra å kjøre det 24/7 med ingen toleranse for nedtid. Det er hvorfor vi har observert vår serverless arkitektur, bedriftsgradert funksjoner og enkelhet i bruk.

Det viktigste er å bare begynne. Våre kunder er ofte overrasket over hvor mye de kan gjøre uten å snakke med oss. Vi har designet det slik med vilje, men er alltid der når våre kunder trenger oss også.

Du har tilbragt din karriere med å flytte mellom akademia, stor teknologi forskning (Yahoo, AWS) og entreprenørskap. Hvordan har disse forskjellige miljøene formet din tilnærming til å bygge Pinecone?

Akademia lærte meg å tenke fra første prinsipper. Hvordan å abstrahere og designe store løsninger. På Yahoo og AWS, lærte jeg hvordan å bygge enkle data plattformer som ingeniører elsker å bygge på.

Entreprenørskap er der du lærer at den beste teknologien bare vinner hvis den løser virkelige problemer på en måte folk kan faktisk bruke.

Dette blandet er avgjørende for hva vi bygger. Vi bygger ikke bare forskningspapirer eller teknologi for teknologiens skyld. Hver innovasjon må gjøre utvikleres liv lettere og bedrifters applikasjoner mer kraftfulle.

Konvergens av søk og AI føles som en av de største skiftene i datamaskinen. Hvor tror du dette er på vei i de neste fem årene, og hvordan vil Pinecones arbeid hjelpe med å forme denne fremtiden?

Søk blir konversasjonelt og kontekstuell. Om fem år vil du ikke “søke” – du vil ha dialoger med AI-systemer som forstår ikke bare din forespørsel, men din intensjon, din kontekst, din historie. Hver interaksjon vil være informert av enorme kunnskapsbaserte oppdateringer i sanntid.

Vi bygger infrastrukturen for dette. Vår vektor database er bare begynnelsen. Jeg ser en fremtid hvor hver applikasjon har innebygd kontekst, hvor AI ikke hallucinerer fordi det er grunnlagt i data, hvor grensen mellom søk og viten forsvinner.

Som sjefsforsker, vil du være mer hands-on med data, modeller og prototyper. Hva områder av forskning er du personlig mest spennende å grave dyptere i nå?

Oh mann, hvor skal jeg begynne? For kort- og mellomlang tid, dykker jeg dyptere inn i effisiens og enkelhet i bruk. Kan vi gjøre vektor søk 10 ganger raskere mens vi gjør det 10 ganger billigere? Kan vi gjøre våre API-er enda enklere enn de er i dag? Dette er vanskelige problemer.

I lengre tid, er jeg besatt av skjæringspunktet mellom henting og resonnement. Hvordan bygge systemer som ikke bare finner relevante fakta, men forstår også forholdet mellom dem? Og så bruke denne konteksten til å skape kunnskapsrik AI og mer kraftfulle agenter.

Til slutt, på et personlig nivå: å gå tilbake fra CEO-rollen, hva spenner du mest på i denne overgangen, og hva slags gjennombrudd håper du å låse opp i Pinecones neste fase?

Jeg er lykkeligst når jeg er dypt i koden, arbeider med vårt forskningsteam, har disse “wow, dette fungerer faktisk!” øyeblikkene klokken 02.00.

Min drøm? Å gjøre henting så god at det blir usynlig. Hvor utviklere kan bygge kontekstuelle applikasjoner uten å tenke på innlegg eller indekser eller noe slikt, og det bare fungerer.

Vi er i dette fantastiske øyeblikket hvor AI og data konvergerer. Potensialet er ubegrenset og jeg får tilbringe mine dager med å gjøre denne fremtiden skje nå.

Takk for det flotte intervjuet, lesere som ønsker å lære mer, kan besøke Pinecone.