Dr. Ram Sriharsha, VP of Engineering at Pinecone – Rozhovorová série

Dr. Ram Sriharsha je viceprezident pro inženýrství a výzkum ve společnosti Pinecone.

Předtím, než se připojil k Pinecone, zastával Ram viceprezidentské role ve společnostech Yahoo, Databricks a Splunk. Ve společnosti Yahoo byl nejen hlavním softwarovým inženýrem, ale také výzkumným vědcem; ve společnosti Databricks vedl produkt a inženýrství pro jednotnou analytickou platformu pro genetiku; a ve společnosti Splunk strávil tři roky, během nichž zastával několik rolí, včetně seniorního hlavního vědce, viceprezidenta pro inženýrství a uznávaného inženýra.

Pinecone je plně spravovaná vektorová databáze, která usnadňuje přidání vektorového vyhledávání do produkčních aplikací. Kombinuje vektorové vyhledávací knihovny, funkce, jako je filtrování, a distribuovanou infrastrukturu, aby poskytovala vysoký výkon a spolehlivost v jakémkoli měřítku.

Co vás původně přitáhlo k strojovému učení?

High dimensionální statistika, teorie učení a témata, jako je tato, mě přitáhla ke strojovému učení. Jsou matematicky dobře definovány, lze je rozumně odůvodnit a nabízejí některé základní poznatky o tom, co znamená učení, a jak navrhnout algoritmy, které mohou učit efektivně.

Předtím jste byl viceprezidentem pro inženýrství ve společnosti Splunk, datové platformě, která pomáhá převést data na akci pro Observability, IT, Security a další. Jaké byly některé z vašich hlavních poznatků z této zkušenosti?

Neuvědomil jsem si, až jsem se dostal do Splunku, jak rozmanité jsou použití případů v podnikovém vyhledávání: lidé používají Splunk pro logickou analýzu, pozorovatelnost a bezpečnostní analýzu mezi mnoha dalšími použitími. A co je společné pro mnoho z těchto použití, je myšlenka detekce podobných událostí nebo vysoce odlišných (nebo anomálních) událostí v nestrukturovaných datech. To se ukázalo jako těžký problém a tradiční prostředky pro vyhledávání v takových datech nejsou příliš škálovatelné. Během svého času ve Splunku jsem inicioval výzkum v těchto oblastech, jak můžeme použít strojové učení (a hluboké učení) pro logickou analýzu, bezpečnostní analýzu atd. Díky této práci jsem si uvědomil, že vektorové vložené a vektorové vyhledávání se stanou fundamentálními prvky pro nové přístupy k těmto doménám.

Můžete nám vysvětlit, co je vektorové vyhledávání?

V tradičním vyhledávání (jinak známém jako vyhledávání klíčových slov) hledáte shody mezi klíčovými slovy v dotazu a dokumenty (to může být tweety, webové dokumenty, právní dokumenty, atd.). To děláte tak, že rozdělíte dotaz na jeho tokeny, načtete dokumenty, které obsahují daný token, a sloučíte a ohodnotíte, aby se určily nejrelevantnější dokumenty pro daný dotaz.

Hlavním problémem je samozřejmě to, že pro získání relevantních výsledků musí váš dotaz mít shody klíčových slov v dokumentu. Klasickým problémem tradičního vyhledávání je: pokud hledáte “pop”, budete shodovat “pop music”, ale nebudete shodovat “soda”, atd., protože mezi “pop” a dokumenty obsahující “soda” není žádná shoda klíčových slov, i když víme, že v mnoha oblastech USA “pop” znamená totéž co “soda”.

Při vektorovém vyhledávání začínáte tak, že převádíte jak dotazy, tak dokumenty na vektor v nějakém vysokodimenzionálním prostoru. To se obvykle dělá tak, že se text prochází hlubokým učícím modelem, jako je OpenAI’s LLMs nebo jinými jazykovými modely. Co získáte jako výsledek, je pole plovoucího čísla, které lze považovat za vektor v nějakém vysokodimenzionálním prostoru.

Jedná se o základní myšlenku, že blízké vektory v tomto vysokodimenzionálním prostoru jsou také semanticky podobné. Pokud se vrátíme k našemu příkladu “soda” a “pop”, pokud je model trénován na správném korpusu, je pravděpodobné, že považuje “pop” a “soda” za semanticky podobné a příslušné vložené budou blízko sebe v prostoru vložených.

Můžete nám vysvětlit, co je vektorová databáze a jak umožňuje stavbu vysoce výkonných aplikací vektorového vyhledávání?

Vektorová databáze ukládá, indexuje a spravuje tyto vložené (nebo vektory). Hlavní výzvy, které vektorová databáze řeší, jsou:

• Stavba efektivního vyhledávacího indexu nad vektory pro odpovědi na dotazy nejbližších sousedů
• Stavba efektivních pomocných indexů a datových struktur pro podporu filtrování dotazů. Například, pokud chcete hledat pouze nad podmnožinou korpusu, měli byste být schopni využít stávající vyhledávací index bez nutnosti jeho přestavby

Jaké typy algoritmů strojového učení se používají v Pinecone?

Obecně pracujeme na aproximovaných algoritmech nejbližších sousedů a vyvíjíme nové algoritmy pro efektivní aktualizaci, dotazování a další manipulaci s velkými množstvími dat co nejefektivněji.

Pracujeme také na algoritmech, které kombinují hustou a řídkou rekonstrukci pro zlepšení relevance vyhledávání.

Jaké jsou některé z výzev při stavbě škálovatelného vyhledávání?

Zatímco aproximované vyhledávání nejbližších sousedů bylo zkoumáno po desetiletí, věříme, že je zde ještě mnoho co objevit.

Zejména při navrhování velkého měřítka nejbližších sousedů, které je nákladově efektivní, při efektivní filtraci ve velkém měřítku, nebo při navrhování algoritmů, které podporují vysoké objemy aktualizací a obecně čerstvých indexů, jsou všechny tyto problémy výzvou.

Jaké jsou některé z různých typů použití, pro které lze tuto technologii použít?

Spektrum použití pro vektorové databáze se rozšiřuje denně. Kromě použití v semantickém vyhledávání také vidíme jeho použití v obrazovém vyhledávání, obrazové rekonstrukci, generativní AI, bezpečnostní analýze atd.

Jaký je váš výhled do budoucnosti vyhledávání?

Dumám, že budoucnost vyhledávání bude řízena umělou inteligencí, a nemyslím si, že je to příliš daleko. V tomto budoucím světě očekávám, že vektorové databáze budou fundamentální primitiv. Rádi si myslíme, že vektorové databáze jsou dlouhodobou pamětí (nebo externí znalostní bází) umělé inteligence.

Děkuji za skvělý rozhovor, čtenáři, kteří chtějí se dozvědět více, by měli navštívit Pinecone.