Edo Liberty, Fondatore e Chief Scientist di Pinecone – Serie di Interviste

Edo Liberty, Fondatore e Chief Scientist di Pinecone, è un esperto leader in sistemi di dati su larga scala e apprendimento automatico. Prima di lanciare Pinecone, il database vettoriale costruito per le prestazioni e la scala, era Direttore della Ricerca presso AWS e Capo dell’Amazon (AMZN ) AI Labs, dove il suo team ha sviluppato tecnologie fondamentali dietro SageMaker, OpenSearch, Kinesis e altro. In precedenza, ha guidato il laboratorio di ricerca di Yahoo a New York, avanzando piattaforme e applicazioni di apprendimento automatico nella ricerca, nella pubblicità e nella sicurezza. Il suo lavoro si concentra sugli algoritmi e le fondamenta matematiche per la gestione di enormi set di dati, che spaziano dalla riduzione della dimensionalità, dal clustering, dal flusso e dall’algebra lineare su larga scala.

Pinecone è un database vettoriale completamente gestito costruito per alimentare la ricerca scalabile ed efficiente su grandi set di dati dinamici. Supporta sia le rappresentazioni dense che sparse, l’indicizzazione in tempo reale e la filtrazione basata sui metadati, integrandosi perfettamente con i principali cloud, modelli e framework. Con l’autoscaling serverless, la sicurezza di livello aziendale e gli standard di conformità come SOC 2, ISO 27001, GDPR e HIPAA, Pinecone fornisce una base affidabile per il deploy di applicazioni AI su larga scala.

Hai fondato Pinecone nel 2019 dopo aver guidato la ricerca presso Amazon AI Labs e aver costruito sistemi come SageMaker. Cosa ti ha ispirato a lanciare Pinecone e a concentrarti specificamente sui database vettoriali?

Presso AWS, il nostro team di apprendimento automatico ha costruito sistemi incredibili, ma quando si trattava della memoria, non c’era modo di eseguire ricerche semantiche attraverso enormi quantità di dati non strutturati. Ciò richiedeva ingegneri estremamente specializzati che sapessero come costruire soluzioni di ricerca vettoriale complesse. Sapevo che se c’era un modo per consentire alle persone di accedere facilmente alla ricchezza semantica che i vettori catturano e combinarla con modelli sofisticati, allora chiunque avrebbe potuto accelerare il valore dell’AI per se stesso. Quindi ho lasciato AWS con l’obiettivo di trasformare veramente il modo in cui si può ottenere il massimo valore dai dati non strutturati proprietari utilizzando il potere dell’AI.

Pinecone è cresciuto fino a diventare l’azienda definitiva nello spazio dei database vettoriali. Guardando indietro, quali sono stati gli ostacoli tecnici o di mercato più grandi che hai dovuto superare per stabilire questa nuova categoria?

La sfida più grande? Nessuno sapeva cosa fosse un database vettoriale! Abbiamo dovuto educare il mercato su ciò che stavamo costruendo e perché era importante. Abbiamo chiesto ai nostri clienti come lo chiamavano loro stessi e ci hanno detto che era un database vettoriale.

Una volta che gli altri hanno iniziato a capire, le persone chiedevano perché non potevano semplicemente utilizzare il codice aperto? E dovevamo spiegare tutte le limitazioni del codice aperto e i compromessi tra prestazioni e scala – e, dopo tutto ciò, avrebbero ancora avuto bisogno di ingegneri esperti per costruire la loro infrastruttura. È per questo che siamo sempre stati un servizio gestito e ci concentriamo sull’esperienza utente. Il nostro sistema è estremamente complesso sotto il cofano perché è necessaria un’infrastruttura specializzata per la ricerca di similarità su scala miliardaria. Ma lo rendiamo accessibile con una chiamata API che qualsiasi sviluppatore può utilizzare.

Questo ha significato astrare tutta la complessità degli algoritmi di nearest neighbor approssimato, la gestione degli indici e i sistemi distribuiti. Gli sviluppatori non vogliono pensare ai parametri HNSW, vogliono solo che funzioni.

Hai di recente transito da CEO a Chief Scientist, portando Ash Ashutosh a guidare l’azienda. Cosa ti ha motivato a prendere questa decisione e come vedi il tuo ruolo evolversi nel prossimo capitolo di Pinecone?

Pinecone, come azienda, è un’azienda di AI e ricerca. Siamo arrivati dove siamo oggi perché abbiamo ridefinito la ricerca, i sistemi e gli algoritmi. E siamo stati molto attivi accademicamente, pubblicando rapporti tecnici e articoli, tenendo discorsi e educando il mercato, anche scrivendo libri di testo e tenendo corsi universitari su AI e memoria. Mentre l’azienda cresce, dobbiamo formalizzare questi sforzi all’interno di un laboratorio di ricerca separato dal resto dell’azienda. Pensate a DeepMind e Google (GOOGL ) come esempio. In futuro, mi concentrerò sulla guida della nostra ricerca, rendendo l’AI più conosciuta e costruendo il prossimo set di prodotti contestuali di Pinecone.

Allo stesso tempo, Ash sarà un fantastico CEO e leader per Pinecone. Ha fondato e scalato più aziende di infrastrutture e sa come operare un’azienda come Pinecone in modo molto efficace. È profondamente conoscitore e creativo riguardo alla nostra tecnologia e al nostro mercato. E è intensamente ossessionato dal cliente. Ash e io lavoreremo a fondo per far crescere l’azienda e il nostro business.

Nel tuo post di blog hai scritto di concentrarti sul “rendere l’AI più conosciuta”. Puoi spiegare cosa significa nella pratica e come la tecnologia di Pinecone è posizionata in modo unico per consentirlo?

L’AI senza memoria è come una persona brillante con l’amnesia: molta intelligenza, ma nessun contesto. “Rendere l’AI più conosciuta” significa dare ai sistemi AI la capacità di accedere, comprendere e ragionare su enormi quantità di informazioni in tempo reale.

Stiamo abilitando le applicazioni AI a fornire informazioni rilevanti in tempo reale, tratte da dati semanticamente compresi e organizzati, e assicurando che i sistemi AI non stiano solo indovinando, ma siano in grado di recuperare e sintetizzare conoscenza su richiesta. Ciò si traduce in output più precisi, più informati e aggiornati per gli utenti finali.

Facciamo questo fornendo tutti i componenti e le capacità per il recupero end-to-end di alta qualità e preciso in un unico posto, insieme alle prestazioni leader di settore per il recupero su larga scala.

Aver insegnato “Memoria a lungo termine nell’AI” a Princeton, come vedi la relazione tra database vettoriali e il futuro dei modelli di AI? Credi che la memoria e il contesto siano gli ingredienti mancanti per i grandi modelli di oggi?

Assolutamente. I modelli di linguaggio più grandi sono macchine di riconoscimento di pattern – brillanti, ma fondamentalmente limitate dal loro set di dati di addestramento e dalle finestre di contesto. Il corso che ho insegnato con Matthijs Douze di Meta si è concentrato sugli algoritmi che rendono possibile la ricerca vettoriale su enormi quantità di dati. Il futuro non è costituito da modelli più grandi, ma da recupero più intelligente su più dati, in tempo reale.

Molte aziende faticano a spostarsi dai piloti di AI alle distribuzioni su scala di produzione. Come aiuta Pinecone a colmare questo divario e quali sono le migliori pratiche che hai osservato dai clienti di successo?

Il divario solitamente si riduce a tre cose: prestazioni (e costo) su scala, sicurezza e complessità. Una demo che funziona con 10 milioni di documenti si rompe a 10 miliardi. Eseguire qualcosa per un’ora è diverso dall’eseguirlo 24 ore su 24 con zero tolleranza per il downtime. È per questo che ci siamo ossessionati sulla nostra architettura serverless, sulle funzionalità di livello aziendale e sulla facilità d’uso.

La cosa più importante da fare è semplicemente iniziare. I nostri clienti sono spesso sorpresi da quanto possono fare senza nemmeno parlare con noi. L’abbiamo progettato appositamente in questo modo, ma siamo sempre lì quando i nostri clienti ne hanno bisogno.

Hai trascorso la tua carriera spostandoti tra l’accademia, la ricerca tecnologica (Yahoo, AWS) e l’imprenditorialità. Come questi ambienti diversi hanno plasmato il tuo approccio alla costruzione di Pinecone?

L’accademia mi ha insegnato a pensare dai principi fondamentali. Come astrare e progettare grandi soluzioni. Presso Yahoo e AWS, ho imparato a costruire piattaforme di dati semplici che gli ingegneri amano costruire.

L’imprenditorialità è dove si impara che la migliore tecnologia vince solo se risolve problemi reali in un modo che le persone possono utilizzare.

Questo mix è cruciale per ciò che stiamo costruendo. Non stiamo solo scrivendo articoli di ricerca o costruendo tecnologia per amore della tecnologia. Ogni innovazione deve rendere la vita degli sviluppatori più facile e le applicazioni aziendali più potenti.

La convergenza della ricerca e dell’AI sembra essere una delle più grandi trasformazioni nel calcolo. Dove pensi che questo sia diretto nei prossimi cinque anni e come il lavoro di Pinecone aiuterà a plasmare quel futuro?

La ricerca sta diventando conversazionale e contestuale. In cinque anni, non “cercherai” – avrai dialoghi con sistemi AI che comprendono non solo la tua query, ma anche le tue intenzioni, il tuo contesto, la tua storia. Ogni interazione sarà informata da enormi basi di conoscenza che vengono aggiornate in tempo reale.

Stiamo costruendo l’infrastruttura per questo. Il nostro database vettoriale è solo l’inizio. Vedrei un futuro in cui ogni applicazione ha un contesto incorporato, in cui l’AI non “hallucina” perché è basata sui dati, in cui il confine tra la ricerca e la conoscenza scompare.

Come Chief Scientist, sarai più coinvolto con i dati, i modelli e la prototipazione. Quali aree di ricerca ti entusiasmano di più in questo momento?

Oh, dove inizio? Per il breve-medio termine, sto scavando più a fondo nell’efficienza e nella facilità d’uso. Possiamo rendere la ricerca vettoriale 10 volte più veloce mentre la rendiamo 10 volte più economica? Possiamo rendere le nostre API ancora più semplici di quanto non siano già? Sono problemi difficili.

Per il lungo termine, sono ossessionato dall’intersezione tra recupero e ragionamento. Come costruire sistemi che non solo trovano fatti rilevanti, ma comprendono le relazioni tra loro? E poi utilizzare quel contesto per creare AI più conosciuta e agenti più potenti.

Infine, a livello personale: ritirandoti dal ruolo di CEO, cosa ti entusiasma di più in questa transizione e quali sono le scoperte che spero di sbloccare nella prossima fase di Pinecone?

Sono più felice quando sono profondamente coinvolto nel codice, lavorando con il nostro team di ricerca, avendo quei momenti “wow, funziona veramente!” alle 2 del mattino.

Il mio sogno? Rendere il recupero così buono che diventa invisibile. Dove gli sviluppatori possono costruire applicazioni contestuali senza pensare a incorporamenti o indici o nulla del genere e funziona.

Siamo in questo momento incredibile in cui l’AI e i dati convergono. Il potenziale è illimitato e posso trascorrere i miei giorni rendendo quel futuro una realtà ora.

Grazie per la grande intervista, i lettori che desiderano saperne di più possono visitare Pinecone.