Edo Liberty, grundlægger og chefvidenskabsmand hos Pinecone – Interviewserie

Edo Liberty, grundlægger og chefvidenskabsmand hos Pinecone, er en førende ekspert i store datasystemer og maskinlæring. Før han startede Pinecone – den vektor-database, der er bygget til ydelse og skala – var han forskningsdirektør hos AWS og leder af Amazon (AMZN ) AI Labs, hvor hans team udviklede kerne-teknologierne bag SageMaker, OpenSearch, Kinesis og mere. Tidligere ledede han Yahoo’s forskningslaboratorium i New York, hvor han udviklede maskinlæringsplatforme og -applikationer til søgning, reklame og sikkerhed. Hans arbejde handler om algoritmer og matematiske grundlag for håndtering af massive datasæt, herunder dimensionereduktion, klustering, streaming og stor-skala lineær algebra.

Pinecone er en fuldt administreret vektor-database, der er bygget til at understøtte skalerbar og effektiv søgning på store, dynamiske datasæt. Den understøtter både tætte og sparsomme indlejring, realtids-indeksering og metadata-baseret filtrering, mens den integrerer sammen med førende skytjenester, modeller og rammer. Med serverless auto-skalerbarhed, enterprise-klasse-sikkerhed og overholdelse af standarder som SOC 2, ISO 27001, GDPR og HIPAA, giver Pinecone en pålidelig grundlag for implementering af store AI-applikationer.

Du grundlagde Pinecone i 2019 efter at have ledt forskning hos Amazon AI Labs og bygget systemer som SageMaker. Hvad inspirerede dig til at starte Pinecone og fokusere specifikt på vektor-databaser?

Hos AWS byggede vores ML-team fantastiske systemer, men når det kom til hukommelse, var der ingen måde at semantisk søge gennem enorme mængder ustuktureret data på. Det krævede ekstremt specialiserede ingeniører, der vidste, hvordan man bygger komplekse vektor-søgeløsninger. Jeg vidste, at hvis der var en måde for folk at let adgang til den semantiske rigdom, som vektorer fanger, og kombinere det med sofistikerede modeller, så kunne alle accelerere værdien af AI for sig selv. Så jeg forlod AWS med målet om at virkelig forandre, hvordan man kan gøre det så enkelt som muligt at få mest værdi ud af proprietær ustuktureret data ved hjælp af AI’s kraft.

Pinecone er vokset til at blive den definerende virksomhed i vektor-database-rummet. Hvad var de største tekniske eller markedsmæssige hindringer, du havde at overvinde for at etablere denne nye kategori?

Den største udfordring? Ingen vidste, hvad en vektor-database var! Vi måtte uddanne markedet om, hvad vi byggede, og hvorfor det var vigtigt. Vi spurgte vores kunder, hvad de kaldte det selv, og de fortalte os, at det var en vektor-database.

Når andre først begyndte at fatte det, spurgte de, hvorfor de ikke bare kunne bruge open source? Og vi måtte forklare alle begrænsningerne i open source og skala-ydelsestradeoff’er, man ville få – og derefter ville man stadig have brug for erfarne ingeniører til at bygge sin infrastruktur. Det er derfor, vi altid har været en administreret tjeneste og fokuserer på brugeroplevelsen. Vores system er ekstremt kompliceret under overfladen, fordi man har brug for denne specialiserede infrastruktur til billion-skala-lighedssøgning. Men vi gør det tilgængeligt med en API-kald, som enhver udvikler kan bruge.

Dette betød, at vi skulle abstrahere alle kompleksiteterne i nærmeste nabo-algoritmer, indeksstyring og distribuerede systemer. Udviklere ønsker ikke at tænke over HNSW-parametre, de vil bare have, at det virker.

Du er netop gået fra CEO til Chief Scientist og har indført Ash Ashutosh til at lede virksomheden. Hvad motiverede denne beslutning, og hvordan ser du din rolle udvikle sig i Pinecones næste kapitel?

Pinecone som virksomhed er en AI-virksomhed og forskningscenteret virksomhed. Vi er kommet, hvor vi er i dag, fordi vi har gendefineret søgning, systemer og algoritmer. Og vi har været meget akademisk aktive, publiceret tekniske rapporter og artikler, holdt foredrag og uddannet markedet, selv skrevet lærebøger og undervist i universitetskurser om AI og hukommelse. Da virksomheden vokser, har vi brug for at formalisere disse bestræbelser under et forskningslaboratorium, der er adskilt fra resten af virksomheden. Tænk på DeepMind og Google (GOOGL ) som et eksempel. Fremover vil jeg fokusere min energi på at lede vores forskning, gøre AI-kendskab og bygge den næste sæt af kontekstuelle produkter fra Pinecone.

Sammen med Ash vil jeg være en fantastisk CEO og leder for Pinecone. Han har grundlagt og skaleret flere infrastruktur-virksomheder og ved, hvordan man opererer en virksomhed som Pinecone meget effektivt. Han er dybt kendskabsfuld og kreativ omkring vores teknologi og vores marked. Og han er intenst kunde-obsesseret. Ash og jeg vil samarbejde dybt om at vokse virksomheden og vores forretning.

I din blogindlæg skrev du om at fokusere på “at gøre AI kendskabsfuld.” Kan du forklare, hvad det betyder i praksis, og hvordan Pinecones teknologi er unikt positioneret til at muliggøre det?

AI uden hukommelse er som en brillant person med hukommelsessvigt: masser af intelligens, men ingen kontekst. “At gøre AI kendskabsfuld” betyder at give AI-systemer evnen til at adgang, forstå og resonere over enorme mængder information i realtid.

Vi muliggør AI-drevne applikationer til at give relevante indsigt i realtid, trukket fra semantisk forstået og organiseret data, og sikrer, at AI-systemer ikke bare gætter, men kan hente og syntetisere kendskab på krav. Dette resulterer i mere præcise, informerede og opdaterede output for slutbrugere.

Vi giver alle komponenter og kapaciteter til højkvalitets, præcis sluttilslutning i ét sted, sammen med branchens førende ydelse til stor-skala-hentning.

Da du har undervist “Langtidshukommelse i AI” på Princeton, hvordan ser du forholdet mellem vektor-databaser og fremtiden for AI-modeller? Tror du, at hukommelse og kontekst er de manglende ingredienser for dagens store modeller?

Absolut. LLM’er er mønster-genkendelsesmaskiner – brillante, men grundlæggende begrænsede af deres træningsdata-afslutning og kontekstvinduer. Kursus, jeg underviste med Matthijs Douze fra Meta, fokuserede på algoritmerne, der gør vektor-søgning mulig over massive mængder data. Fremtiden er ikke større modeller, men smartere hentning over mere data i realtid.

Mange virksomheder kæmper med at flytte fra AI-piloter til produktions-skala-deploymenter. Hvordan hjælper Pinecone med at brokke denne kløft, og hvilke bedste praksis har du observeret fra succesfulde kunder?

Kløften kommer normalt ned til tre ting: ydelse (og omkostning) i skala, sikkerhed og kompleksitet. En demo, der fungerer med 10 millioner dokumenter, falder fra hinanden ved 10 milliarder. At køre noget i en time er forskelligt fra at køre det 24/7 med ingen tolerance for downtime. Det er derfor, vi har fokuseret på vores serverless-arkitektur, enterprise-klasse-funktioner og let brug.

Det vigtigste er at komme i gang. Vores kunder er ofte overraskede over, hvor meget de kan gøre uden at tale med os. Vi har designet det på denne måde med vilje, men er altid der, når vores kunder har brug for os.

Du har tilbragt din karriere med at skifte mellem akademiet, stor teknisk forskning (Yahoo, AWS) og entrepreneurship. Hvordan har disse forskellige miljøer formet din tilgang til at bygge Pinecone?

Akademiet lærte mig at tænke fra første principper. Hvordan man abstraherer og designer gode løsninger. Hos Yahoo og AWS lærte jeg, hvordan man bygger simple data-platforme, som ingeniører elsker at bygge på.

Entrepreneurship er, hvor man lærer, at den bedste teknologi kun vinder, hvis den løser virkelige problemer på en måde, folk kan faktisk bruge.

Dette mix er afgørende for, hvad vi bygger. Vi bygger ikke kun forskningspapirer eller teknologi for teknologiens skyld. Hver innovation må gøre udviklernes liv lettere og virksomheders applikationer mere kraftfulde.

Konvergens af søgning og AI føles som en af de største skift i beregning. Hvor tror du, det er på vej i de næste fem år, og hvordan vil Pinecones arbejde hjælpe med at forme den fremtid?

Søgning bliver konversationel og kontekstuel. Om fem år vil du ikke “søge” – du vil have dialoger med AI-systemer, der forstår ikke kun din forespørgsel, men også din hensigt, din kontekst, din historie. Hver interaktion vil være informeret af enorme videnbasers, der opdateres i realtid.

Vi bygger infrastrukturen til dette. Vores vektor-database er kun begyndelsen. Jeg ser en fremtid, hvor hver applikation har indbygget kontekst, hvor AI ikke hallucinerer, fordi det er grundet i data, hvor grænsen mellem søgning og viden forsvinder.

Som Chief Scientist vil du være mere hånd-til-hånd med data, modeller og prototyper. Hvilke områder af forskning er du personligt mest spændt på at dykke ned i lige nu?

Oh, hvor skal jeg starte? På kort til middel-længde er jeg dykkende dybere ind i effektivitet og let brug. Kan vi gøre vektor-søgning 10 gange hurtigere, mens vi gør det 10 gange billigere? Kan vi gøre vores API’er endnu enklere end de er i dag? Disse er svære problemer.

På længere sigt er jeg besat af skæringen mellem hentning og resonering. Hvordan bygger man systemer, der ikke kun finder relevante fakta, men forstår relationerne mellem dem? Og derefter bruger den kontekst til at skabe kendskabsfuld AI og mere kraftfulde agenter.

Til sidst, på et personligt plan: træder tilbage fra CEO-rollen, hvad begejstrer dig mest ved denne overgang, og hvilke gennembrud håber du at låse op i Pinecones næste fase?

Jeg er lykkeligst, når jeg er dybt i koden, arbejder med vores forskningsteam, har disse “wow, det virker faktisk!”-øjeblikke klokken 2 om natten.

Min drøm? At gøre hentning så god, at det bliver usynligt. Hvor udviklere kan bygge kontekstuelle applikationer uden at tænke over indlejring eller indekser eller noget som helst og det bare virker.

Vi er i dette utrolige øjeblik, hvor AI og data konvergerer. Potentialen er ubegrænset, og jeg får lov til at tilbringe mine dage med at gøre den fremtid ske nu.

Tak for det fantastiske interview, læsere, der ønsker at lære mere, skal besøge Pinecone.