Edo Liberty, Pineconen perustaja ja päätietsientistinen johtaja – Haastattelusarja

Edo Liberty, Pineconen perustaja ja päätietsientistinen johtaja, on johtava asiantuntija suurten tietojärjestelmien ja koneoppimisen alalla. Ennen Pineconen perustamista – vektorigraafiseen tietokantaan, joka on suunniteltu suorituskyvylle ja skaalautuvuudelle – hän toimi tutkimusjohtajana AWS: ssä ja Amazon (AMZN ) AI Labsin johtajana, jossa hänen tiiminsä kehitti SageMakerin, OpenSearchin, Kinesiksen ja muiden ydinteknologiat. Aikaisemmin hän johti Yahoon New Yorkin tutkimuslaboratoriota, jossa kehitettiin koneoppimisalustoja ja sovelluksia hakujen, mainonnan ja turvallisuuden alalla. Hänen työnsä keskittyy algoritmeihin ja matemaattisiin perusteisiin massiivisten tietojoukkojen käsittelyyn, kattaa ulottuvuuden vähentämisen, klusteroinnin, virtaus- ja suuren mittakaavan lineaarialgebran.

Pinecone on täysin hallittu vektorigraafinen tietokanta, joka on suunniteltu skaalautuvan ja tehokkaan hakujen mahdollistamiseksi suurten, dynaamisten tietojoukkojen yli. Se tukee sekä tiheitä että harsomaisia upotuksia, reaaliaikaisia indeksejä ja metatietojen perusteella tapahtuvaa suodatusta samalla, kun se integroituu saumattomasti johtavien pilvien, mallien ja kehyksien kanssa. Palvelimettomalla autoskaalauksella, yritysluokan turvallisuudella ja määräystenmukaisuusstandardeilla, kuten SOC 2, ISO 27001, GDPR ja HIPAA, Pinecone tarjoaa luotettavan perustan suurten tekoälysovellusten käyttöönottoon.

Perustit Pineconen vuonna 2019 johtamisen jälkeen tutkimusta Amazon AI Labsissa ja rakentamisen jälkeen järjestelmiä kuten SageMaker. Mikä innoitti sinua perustamaan Pineconen ja keskittymään nimenomaan vektorigraafisiin tietokantoihin?

AWS: ssä meidän ML-tiimimme rakensi upeita järjestelmiä, mutta kun tuli muistiin, ei ollut mitään tapaa etsiä semanttisesti läpi valtavat määrät rakenteettomia tietoja. Se vaati erittäin erikoistuneita insinöörejä, jotka tunsivat, miten rakentaa monimutkaisia vektorihakuratkaisuja. Tiesin, että jos olisi tapa, jolla ihmiset voivat helposti päästä käsiksi vektoreiden kaappaamaan semanttiseen rikkauuteen ja yhdistää sen sofistikoituneisiin malleihin, silloin kuka tahansa voi kiihdyttää tekoälyn arvoa itselleen. Joten lähdin AWS: stä tavoitteena todella muuttaa, miten tehdä siitä yksinkertaisimmasta mahdollisesta saada eniten arvoa omista rakenteettomista tiedoista tekoälyn voimalla.

Pinecone on kasvanut vektorigraafisen tietokannan määritteleväksi yritykseksi. Katsellessasi taakse, mitkä olivat suurimmat tekniset tai markkinamuutokset, joita sinun täytyi voittaa uuden kategorian perustamiseksi?

Suurin haaste? Kukaan ei tiennyt, mitä vektorigraafinen tietokanta on! Meidän piti kouluttaa markkinaa siitä, mitä rakensimme ja miksi se oli tärkeää. Me kysyimme asiakkailtamme, mitä he kutsuvat itse, ja he kertoivat meille vektorigraafisen tietokannan.

Kun muut alkoivat ymmärtää, ihmiset kysyivät, miksi he eivät voisi käyttää avoimia lähteitä? Ja meidän piti selittää kaikki avoimien lähteiden rajoitukset ja skaalautuvuuden suorituskykyyn liittyvät kaupat – ja sitten sinun täytyy edelleen tarvita kokeneita insinöörejä rakentamaan infrastruktuurisi. Tämän vuoksi olemme aina olleet hallittu palvelu ja keskittyneet käyttäjäkokemukseen. Järjestelmämme on erittäin monimutkainen alla olevassa osassa, koska tarvitset tätä erikoistunutta infrastruktuuria miljardin mittakaavan samankaltaisuuden hakua varten. Mutta teemme sen helpoksi käyttää API-kutsun kautta, jonka kuka tahansa kehittäjä voi käyttää.

Tämä tarkoitti kaiken monimutkaisuuden abstrahointia, mukaan lukien likimääräisen lähimmän naapurin algoritmit, indeksin hallinta ja jakautuneet järjestelmät. Kehittäjät eivät halua ajatella HNSW-parametreja, he haluavat vain, että se toimii.

Olet vastikään siirtynyt toimitusjohtajan roolista päätietsientistiseksi johtajaksi ja tuonut Ash Ashutoshin johtamaan yritystä. Mikä motivoi tämän päätöksen, ja miten näet roolisi kehittyvän Pineconen seuraavassa vaiheessa?

Pinecone, yrityksenä, on tekoälyyritys ja tutkimuskeskeinen yritys. Olemme päässeet sinne, missä olemme tänään, koska olemme uudelleenmääritelleet hakua, järjestelmiä ja algoritmeja. Ja olemme olleet hyvin akateemisesti aktiivisia, julkaisemalla teknisiä raportteja ja papereita, pitämällä esitelmiä ja kouluttamalla markkinaa, jopa kirjoittamalla kirjoja ja antamalla yliopistokursseja tekoälystä ja muistista. Kun yritys kasvaa, meidän on formalisoitava nämä ponnistelut tutkimuslaboratorion alle, joka on erillinen liiketoiminnasta. Ajattele DeepMindia ja Googlea esimerkkinä. Tulevaisuudessa keskityn energiani tutkimuksen johtamiseen, tekemään tekoälyä tietoisemmaksi ja rakentamiseen seuraavaa Pineconen tuoteryhmää.

Samaan aikaan Ash on fantastinen toimitusjohtaja ja johtaja Pineconelle. Hän perusti ja laajensi useita infrastruktuuriyrityksiä ja tietää, miten toimia yrityksellä kuten Pinecone. Hän on syvällisesti tietoinen ja luova teknologiastamme ja markkinastamme. Ja hän on intensiivisesti asiakasorientoitunut. Ash ja minä tulemme yhteistyöhön syvällisesti yrityksen kasvattamiseksi ja liiketoiminnan kehittämiseksi.

Blogikirjoituksessasi kirjoitit “tekoälyn tietoisuuden” keskittymisestä. Voitko avata, mitä se tarkoittaa käytännössä ja miten Pineconen teknologia on ainutlaatuisesti asemoitunut mahdollistamaan sen?

Tekoäly ilman muistia on kuin nerokas henkilö, jolla on amnesia: paljon älykkyyttä, mutta ei kontekstia. “Tekoälyn tietoisuuden” antaminen tarkoittaa antaa tekoälyjärjestelmille kyky päästä käsiksi, ymmärtää ja päätellä valtavat määrät tietoa reaaliajassa.

Mahdollistamme tekoälysovellusten antaa relevantteja oivalluksia reaaliajassa, jotka on poimittu semanttisesti ymmärretyistä ja järjestetyistä tiedoista ja varmistamme, että tekoälyjärjestelmät eivät vain arvaa, vaan pystyvät hakemaan ja syntetisoimaan tietoa tarpeen mukaan. Tämä johtaa tarkempiin, perustellumpiin ja ajantasaisempiin tuloksiin loppukäyttäjille.

Olet opettanut “Pitkän aikavälin muisti tekoälyssä” Princetonissa. Mitä suhdetta näet vektorigraafisten tietokantojen ja tekoälymallien tulevaisuuden välillä? Uskotko, että muisti ja konteksti ovat puuttuvat ainekset nykyisille suurille malleille?

Täysin. LLM:t ovat kuviomallinnus koneita – nerokkaita, mutta edelleen perustavanlaatuisesti rajoitettuja koulutusdatan leikkaamisen ja kontekstirajojen vuoksi. Kurssi, jonka opetin Matthijs Douzen kanssa Meta, keskittyi algoritmeihin, jotka tekevät vektorihakua mahdolliseksi valtavien tietomäärien yli. Tulevaisuus ei ole suurempia malleja, vaan älykkäämpää hakua enemmän dataa varten reaaliajassa.

Monet yritykset kamppailevat siirtymisen tekoälykokeilusta tuotantovalmiisiin käyttöönottoihin. Miten Pinecone auttaa tämän aukon ylittämisessä, ja mitä parhaita käytäntöjä olet havainnut onnistuneista asiakkaista?

Aukko johtuu yleensä kolmesta asiasta: suorituskyvystä (ja kustannuksista) skaalautuvuuden suhteen, turvallisuudesta ja monimutkaisuudesta. Demo, joka toimii 10 miljoonalla asiakirjalla, hajoaa 10 miljardilla. Jotain, joka toimii tunnin ajan, on eri asia kuin toimia 24/7 ilman sietokykyä laskuun. Siksi olemme keskittyneet palvelimettomaan arkkitehtuuriimme, yritysluokan ominaisuuksiimme ja helppokäyttöisyyteemme.

Tärkein asia on vain aloittaa. Asiakkaamme ovat usein yllättyneitä siitä, kuinka paljon he voivat tehdä ilman, että heidän tarvitsee puhua meidän kanssamme. Olemme suunnitelleet sen tarkoituksella, mutta olemme aina asiakkaidemme käytettävissä, kun he tarvitsevat meitä.

Olet viettänyt uraa akateemisen, suuren teknologian tutkimuksen (Yahoo, AWS) ja yrittäjyyden välillä. Miten nämä eri ympäristöt ovat muokanneet lähestymistäsi Pineconen rakentamiseen?

Akateeminen opetti minulle, miten ajatella periaatteiden mukaan. Miten suunnitella hyviä ratkaisuja. Yahoo ja AWS opettivat minulle, miten rakentaa yksinkertaisia data-alustoja, joita insinöörit rakastavat rakentaa.

Yrittäjyys on se, missä opit, että paras teknologia voittaa vain, jos se ratkaisee todellisia ongelmia tavalla, jota ihmiset voivat todella käyttää.

Tämä sekoitus on ratkaiseva siinä, mitä rakennamme. Emme ole vain kirjoittamassa tutkimuspaperia tai rakentamassa teknologiaa teknologian vuoksi. Jokainen innovaatio on tehtävä kehittäjien elämän helpommaksi ja yritysten sovellusten voimakkaammaksi.

Haun ja tekoälyn yhdistyminen tuntuu yhdeltä suurimmista siirtymistä laskennassa. Mihin luulet, että tämä on menossa seuraavien viiden vuoden aikana, ja miten Pineconen työ auttaa muokkaamaan tätä tulevaisuutta?

Haku muuttuu keskustelulliseksi ja kontekstuaaliseksi. Viiden vuoden kuluttua et “hake” – sinulla on vuoropuhelu tekoälyjärjestelmien kanssa, jotka ymmärtävät ei vain kysymyksesi, vaan myös aikomuksesi, kontekstisi, historian. Jokainen vuorovaikutus on perustettu valtaville tietopohjille, jotka päivitetään reaaliajassa.

Rakennamme infrastruktuuria tätä varten. Vektorigraafinen tietokantamme on vain alku. Näen tulevaisuuden, jossa jokaisella sovelluksella on upotettu konteksti, jossa tekoäly ei harhaa, koska se on perustettu tietoihin, ja jossa hakemisen ja tietävän rajat katoavat.

Toimitusjohtajana tulet olemaan enemmän käsi käsiin tietojen, mallien ja prototyyppien kanssa. Mitkä tutkimuksen alueet ovat sinulle henkilökohtaisesti kaikkein mielenkiintoisimmat tällä hetkellä?

Oh man, mistä aloitan? Lyhyen ja keskipitkän aikavälin osalta olen syventymässä tehokkuuteen ja helppokäyttöisyyteen. Voimmeko tehdä vektorihakua 10 kertaa nopeammaksi samalla, kun teemme sen 10 kertaa halvemmaksi? Voimmeko tehdä API: mme vielä yksinkertaisemmaksi kuin ne ovat tänään? Nämä ovat vaikeita ongelmia.

Pitkällä aikavälillä olen omistautunut hakemisen ja päättelyn leikkaukselle. Miten voimme rakentaa järjestelmiä, jotka eivät vain löydä relevantteja faktoja, vaan ymmärtävät niiden väliset suhteet? Ja sitten käytävät kontekstia luomaan tietoisemman tekoälyn ja voimakkaampia agenteja.

Lopulta henkilökohtaisella tasolla: askarruttaa sinua eniten tämä siirtymä, ja mitä läpimurtoja toivot löytäväsi Pineconen seuraavassa vaiheessa?

Olen onnellisin, kun olen syvällä koodissa, työskentelemässä tutkimusryhmämme kanssa, ja kokeilemassa “wow, tämä toimii!” -hetkiä kello 2 aamulla.

Unelmani? Tehdä hakua niin hyväksi, että se tulee näkymättömäksi. Jossa kehittäjät voivat rakentaa kontekstuaalisia sovelluksia ilman, että heidän tarvitsee ajatella upotuksia, indeksejä tai mitään muuta, ja se vain toimii.

Olemme tässä uskomattomassa hetkessä, jossa tekoäly ja data yhdistyvät. Mahdollisuudet ovat rajattomat, ja minun on ilo viettää päiväni tekemällä tätä tulevaisuutta nyt.

Kiitos haastattelusta, lukijat, jotka haluavat oppia lisää, voivat vierailla Pineconessa.