Sean Mullaney, Chief Technology Officer ve společnosti Algolia – Interview Series

Sean Mullaney je Chief Technology Officer ve společnosti Algolia, komplexní platformou pro vyhledávání a objevování s umělou inteligencí.

Sean je bývalý výkonný ředitel ve společnostech Stripe a Google (GOOGL ) s bohatými zkušenostmi ve škálování inženýrských organizací, vývoji nástrojů pro vyhledávání a objevování s umělou inteligencí a globálním rozvoji řešení založených na API. Ve společnosti Algolia dohlíží na technologii druhé největší vyhledávací stránky po Googlu, která zpracovává více než 1,5 bilionu vyhledávání ročně. Nedávno vedl uvedení produktu AlgoliaNeuralSearch – nejrychlejší, hyperškálovatelný a nákladově efektivní vektorový a klíčový vyhledávací API na světě.

Co vás původně přitáhlo k informatice?

Když mi bylo 10 let, moji rodiče přinesli domů náš první počítač. První věc, kterou jsem chtěl udělat, byla snaha o vytvoření textové hry, kterou jsem kopíroval z knihy. O několik let později jsem začal učit C++, ale návrh a vývoj počítačových her zůstaly mou velkou vášní jako teenagera, který začínal prozkoumávat informatiku.

Přes 7 let jste strávil ve společnosti Google, kde jste pomáhal budovat a vést týmy, které pracovaly na strategii, operacích, velkých datech a strojovém učení. Jaký byl váš nejoblíbenější projekt a co jste se z této zkušenosti naučil?

Vyvinuli jsme způsob, jak využít velké množství dat o tom, jak inzerenti používají naše produkty, aby pomohli prodejním týmům. Vyvinuli jsme vlastní pravidla (později složitější neuronové sítě) pro předpověď, které zákazníky bychom se měli pokusit oslovit s jakými produkty a v jakou dobu, aby se maximalizovala pravděpodobnost, že čas prodejního zástupce povede k navýšení příjmů. S více než 1 milionem inzerentů na Googlu tento nástroj významně pomohl prodejním týmům najít jehly v kupce sena.

V nedávném shrnutí DevBit jste popsali účel Algolie jako umožnění uživatelům indexovat svět a uvádět obsah do pohybu. Můžete vysvětlit, co tento výrok znamená?

Konečným cílem je pomoci našim zákazníkům získat hodnotu z jejich dat. Internet vytvořil tak obrovský výbuch obsahu a e-commerce produktů a zatímco toto rozvoje je určitě významným milníkem, obrovské množství dostupných informací znamená, že je nyní těžší než kdykoli dříve – a stále obtížnější – najít to, co skutečně hledáte jako uživatel. Když je však vyhledávání a objevování poháněno umělou inteligencí, rostoucí seznam obsahu může být inteligentně přístupný a uveden do pohybu, aby skutečně pomohl uživatelům, a ne je pouze zahltil.

V září 2022 společnost Search.io a její proprietární vlajkový produkt NeuralSearch™ byly získány společností Algolia. Můžete diskutovat o této vyhledávací technologii?

V kostce, Algolia NeuralSearch integruje shodu klíčových slov s vektorovým zpracováním přirozeného jazyka, poháněným velkými jazykovými modely, v jednom API – poprvé v oboru. Řešení zahrnuje naší proprietární a prvotřídní techniku Neural Hashing, která dělá použití vektorů škálovatelným a o 90 % nákladově efektivnějším – problém, se kterým se potýkají i jiné společnosti s umělou inteligencí, včetně ChatGPT. Co je opravdu vzrušující na tomto průlomovém produktu, je to, že dělá skutečné vyhledávání s umělou inteligencí škálovatelné pro organizace na úrovni podniku.

Nová technologie také umožňuje zákazníkům, jako jsou maloobchodníci, pochopit a doručit obsah, který odpovídá dotazům, které jsou obvykle příliš konverzační, aby poskytly přesné nebo jakékoli výsledky (považované za dlouhý ocas). Tyto tvoří 55 % současných vyhledávání na webu. Jako jediné komplexní řešení vyhledávání s umělou inteligencí, které aplikuje umělou inteligenci napříč pochopením dotazu, načtením a hodnocením výsledků, NeuralSearch skutečně chápe tyto dotazy a mění zmeškané příležitosti na příjmy.

Mimo Neuralsearch™, jaké další metodologie strojového učení se používají?

Zahrnuli jsme umělou inteligenci do tří primárních funkcí – pochopení dotazu, načtení a hodnocení výsledků. Ve společnosti Algolia nazýváme to AI vyhledávací sendvič:

• Pochopení dotazu: Pokročilé pochopení přirozeného jazyka a AI poháněný vektorový vyhledávací nástroj Algolie poskytuje volné vyjádření přirozeného jazyka a AI poháněnou kategorizaci dotazu, která připravuje a strukturuje dotaz pro analýzu. Kromě toho, adaptivní učení založené na zpětné vazbě uživatelů jemně ladí pochopení záměru.
• Načtení: Nejrelevantnější výsledky jsou pak načteny a hodnoceny od nejrelevantnějších po nejméně relevantní. Proces načtení spojuje výsledky Neural Hashing paralelně s klíčovými slovy pomocí stejného indexu pro snadné načtení a hodnocení. Tento přístup řeší problém “nulových výsledků” a významně zlepšuje pozice kliknutí a míru kliknutí. Žádná jiná vyhledávací platforma ve vyhledávacím a objevovacím prostoru nenabízí tuto mocnou schopnost.
• Hodnocení: Nakonec jsou nejlepší výsledky posunuty na vrchol AI poháněným opětovným hodnocením Algolie, které bere v úvahu mnoho signálů připojených k vyhledávacímu dotazu, (včetně přesné shody klíčových slov, kontextuálně personalizovaného profilu, pozorované popularity položek, sémantického shodného skóre atd.) a učí se dosáhnout maximální relevance.

Kromě toho, jak se index mění, přidávají se nové produkty, nahrávají se nové obsahy nebo mění se významy termínů, AI poháněný produkt Algolia NeuralSearch se učí a automaticky upravuje. Není vyžadeno žádné další personální ani manuální operace. Automaticky bude shodovat klíčová slova nebo koncepty – možná kombinaci obou – v závislosti na dotazu nebo vyhledávacím výrazu. To skutečně nastavuje vyhledávání na autopilota.

Algolia nedávno zvýšila svůj bezplatný plán z 10 000 záznamů a navýšila ho na 1 milion záznamů. Jaký byl přístup k tomuto rozhodnutí a jak na něj reagoval trh?

Specificky jsme se rozhodli vyvinout cenový plán a balíčky Algolie, aby byly ještě více orientovány na vývojáře s uvedením dvou nových vývojářských plánů: “build” plánu, který je zdarma, a “Grow” plánu, který nabízí snadné škálování za dostupné ceny. Nový Build plán zvyšuje počet bezplatných záznamů, které může vývojář uložit v Algolii, z 10 000 na 1 milion záznamů. To představuje 100násobné zvýšení počtu bezplatných záznamů, které mohou vývojáři nyní indexovat v Algolii. Kromě toho Algolia snížila náklady na vyhledávací požadavky v plánu Grow o 50 % a záznamy o 60 %.

Nápad za naším aktualizovaným “Build” cenovým plánem je poskytnout vývojářům bezplatný přístup ke všem funkcím v naší AI poháněné vyhledávací a objevovací platformě. “Grow” plán, pro případ, kdy je vývojář připraven škálovat svou aplikaci, umožňuje vývojářům snadné škálování za dostupné ceny pro živé produkční prostředí.

Jedna důležitá poznámka zde je, že jakýkoli návrhář, tvůrce nebo stavitel – ať už je to příležitostný nebo plně zapojený softwarový inženýr – může rychle a snadno získat přístup ke všem nástrojům, dokumentaci, ukázkám kódu, vzdělávacímu obsahu a funkcím pro více platforem potřebným k zahájení práce se svými daty, budování vyhledávacího rozhraní, konfiguraci analýz a další – vše zdarma. Kromě toho budou mít okamžitý přístup k rostoucí vývojářské komunitě s více než 5 miliony stavitelů.

Můžete diskutovat o nástrojích pro personalizaci vyhledávání, které jsou nabízeny?

Algolia nabízí několik nástrojů pro personalizaci vyhledávání pro společnosti, aby využily data k lepšímu zlepšení doporučení, včetně různých typů doporučení a jedinečných způsobů, jak využít data k pohánění těchto doporučení.

Několik příkladů zahrnuje:

• Trending: Navrhněte další položky, které jsou populární a související s vyhledáváními, které zákazník provedl.
• Na základě hodnocení: Lidé chtějí kupovat produkty s nejlepšími hodnoceními.
• Personalizované: Na základě toho, co jste nakoupili naposledy, historie prohlížení, polohy nebo jiných faktorů, doporučujeme tyto další produkty.

Tyto datové metody mohou pomoci rychle vylepšit a zlepšit výsledky na základě toho, jak zákazníci interagují s produkty, takže jste více pravděpodobně doporučovat produkty, které skutečně konvertují nejlépe.

Popsali jste Algolii jako nejškálovatelnější hybridní vyhledávací engine na světě. Jak byla Algolia navržena pro tak efektivní škálování?

Vše se vrací k Neural Hashing. Tento průlomové řešení komprimuje a dramaticky zrychluje každou jednotlivou vyhledávací dotaz. Je mnohem rychlejší počítat hash podobnost než standardní vektorové podobnosti a vrátit výsledky v milisekundách.

Neural Hashing představuje průlom pro uvedení AI vyhledávání do produkce pro širokou škálu případů použití. Kombinovaný s AI poháněným zpracováním dotazů a opětovným hodnocením, slibuje uvolnit plnou sílu AI pro vyhledávání na webu. Před průlomem Algolie byla vektorová vyhledávání příliš výpočetně nákladná pro běh v produkci.

Část sendviče, na kterou bych se chtěl nejvíce zaměřit, je maso: načtení. Důvod, proč říkáme, že jsme jediný komplexní AI vyhledávací engine, je ten, že existuje neustálý boj ve vyhledávacím průmyslu, aby se přidala AI do načtení. Načtení informací je neuvěřitelně komplexní proces a je ještě složitější zvládnout vysoce výkonné, nákladově efektivní AI načtení ve velkém měřítku. Zvládli jsme to naší průlomovou technikou Neural Hashing. Tímto jsme vlastně vyhráli závod za Svatý grál AI vyhledávání.

Je něco jiného, co byste rádi sdíleli o Algolii?

Je vzrušující čas pracovat ve společnosti Algolia, a vždycky rádi zahajujeme konverzace s talentovanými a vášnivými lidmi, kteří chtějí se nám připojit na naší cestě za stavbou nejlepší technologie vyhledávání na světě. Pokud to zní jako něco pro vás, rád bych vás pozval k prohlédnutí našich aktuálních nabídek na https://www.algolia.com/careers/.