Sean Mullaney, Chief Technology Officer w Algolia – Seria wywiadów

Sean Mullaney jest Chief Technology Officer w Algolia, platformą wyszukiwania i odkrywania opartą na sztucznej inteligencji.

Sean jest byłym dyrektorem Stripe i Google (GOOGL ) z doświadczeniem w skalowaniu organizacji inżynierskich, tworzeniu narzędzi wyszukiwania i odkrywania opartych na sztucznej inteligencji oraz rozwijaniu rozwiązań opartych na interfejsach API na całym świecie. W Algolia nadzoruje technologię za drugą co do wielkości wyszukiwarką na świecie, która jest używana do ponad 1,5 trylionów wyszukiwań każdego roku. Ostatnio kierował uruchomieniem AlgoliaNeuralSearch – najszybszej, hiper-maszynowej i najbardziej efektywnej wektorowej i słownej wyszukiwarki API.

Czym było to, co początkowo przyciągnęło Cię do informatyki?

Gdy miałem 10 lat, moi rodzice kupili pierwszy komputer do domu. Pierwszą rzeczą, którą chciałem zrobić, było nauczenie się, jak napisać tekstową grę przygodową, którą kopiowałem z książki. Kilka lat później zacząłem uczyć się C++, ale projektowanie i tworzenie gier komputerowych pozostało moją wielką pasją jako nastolatka, który zaczynał odkrywać informatykę.

Spędziłeś ponad 7 lat w Google, gdzie pomagałeś budować i prowadzić zespoły zajmujące się strategią, operacjami, dużymi danymi i uczeniem maszynowym. Jaki był Twój ulubiony projekt i czego nauczyłeś się z tego doświadczenia?

Wydaliśmy, jak wykorzystać duże dane na temat tego, jak reklamodawcy używali naszych produktów, aby pomóc zespołom sprzedaży. Opracowaliśmy niestandardowe reguły (później bardziej złożone sieci neuronowe), aby przewidzieć, których klientów powinniśmy podejść z którymi produktami i w których momentach, aby zwiększyć prawdopodobieństwo, że czas sprzedaży skończy się wzrostem przychodu. Z ponad 1 milionem reklamodawców na Google, to narzędzie znacznie pomogło zespołom sprzedaży znaleźć igłę w stogu siana.

W niedawnym podsumowaniu DevBit opisałeś cel Algolii jako umożliwienie użytkownikom indeksowania świata i wprowadzania treści w ruch. Czy mógłbyś wyjaśnić, co oznacza to stwierdzenie?

Ostatecznie chcemy pomóc naszym klientom uzyskać wartość z ich danych. Internet stworzył tak ogromny wybuch treści i produktów e-commerce, i chociaż ten rozwój jest na pewno znaczącym kamieniem milowym, ogromna ilość dostępnych informacji oznacza, że jest teraz trudniej niż kiedykolwiek – i staje się coraz trudniejsze – znaleźć to, czego naprawdę szukasz jako użytkownik. Jednak gdy wyszukiwanie i odkrywanie są napędzane przez sztuczną inteligencję, rosnąca lista treści może być inteligentnie dostępna i wprowadzona w ruch, aby naprawdę pomóc użytkownikom, a nie tylko ich przytłoczyć.

We wrześniu 2022 roku Search.io i jego flagowy produkt NeuralSearch™ zostały przejęte przez Algolię, czy mógłbyś omówić, jaka jest ta technologia wyszukiwania?

W skrócie, Algolia NeuralSearch łączy dopasowanie słów kluczowych z wektorową przetwarzaniem języka naturalnego opartym na LLM, w jednym API – co jest premierą w branży. Rozwiązanie to wykorzystuje naszą własną, pierwszą na świecie technikę Neural Hashing, która sprawia, że użycie wektorów jest skalowalne i 90% bardziej efektywne pod względem kosztów – problem, z którym borykają się inne firmy AI, w tym ChatGPT. To, co naprawdę ekscytuje w tym przełomowym produkcie, to to, że sprawia, że prawdziwe wyszukiwanie AI jest skalowalne dla organizacji o wysokim poziomie.

Nowa technologia pozwala również klientom, takim jak detaliści, zrozumieć i dostarczyć treści, które odpowiadają zapytaniom, które zwykle są zbyt rozmowne, aby dostarczyć dokładne lub jakiekolwiek wyniki (rozważane jako długie ogony). Te stanowią 55% bieżących wyszukiwań na stronie. Jako jedyna kompletna platforma wyszukiwania AI, która stosuje AI w zrozumieniu zapytania, pobraniu i rankingu, NeuralSearch naprawdę rozumie te zapytania i zmienia pominięte okazje w przychód.

Poza Neuralsearch™, jakie inne metody uczenia maszynowego są stosowane?

Zastosowaliśmy AI w trzech podstawowych funkcjach – zrozumieniu zapytania, pobraniu i rankingu wyników. W Algolia nazywamy to AI-search sandwich:

• Zrozumienie zapytania: zaawansowane zrozumienie języka naturalnego (NLU) i AI-napędzane wyszukiwanie wektorowe zapewniają swobodne wyrażanie języka naturalnego i AI-napędzaną kategoryzację zapytań, które przygotowują i strukturyzują zapytanie do analizy. Ponadto, adaptacyjne uczenie oparte na opinii użytkowników dostosowuje zrozumienie intencji.
• Pobranie: najbardziej odpowiednie wyniki są pobierane i ранżowane od najbardziej do najmniej istotnych. Proces pobierania łączy wyniki Neural Hashing równolegle z słowami kluczowymi, używając tego samego indeksu do łatwego pobierania i ранżowania. Ten podejście rozwiązuje problem „pustych wyników” i znacznie poprawia pozycje kliknięć i wskaźniki klikalności. Żadna inna platforma wyszukiwania i odkrywania nie oferuje tej potężnej funkcjonalności.
• Ranking: w końcu, najlepsze wyniki są przesunięte na górze przez AI-napędzane ponowne ранżowanie, które bierze pod uwagę wiele sygnałów dołączonych do zapytania wyszukiwania, (w tym dokładnego dopasowania słów kluczowych, profilu personalizacji kontekstowej, popularności elementów, wyniku dopasowania semantycznego itp.) i uczy się, aby osiągnąć maksymalną istotność.

Ponadto, gdy indeks się zmienia, nowe produkty są dodawane, nowe treści są przekazywane, lub gdy terminy przyjmują nowe znaczenie, AI-napędzany produkt Algolia NeuralSearch będzie się uczył i dostosowywał automatycznie. Nie wymaga to dodatkowych zasobów ludzkich ani operacji ręcznych. Będzie automatycznie dopasowywał słowa kluczowe lub pojęcia – być może mieszankę obu – w zależności od zapytania lub frazy wyszukiwania. To naprawdę umieszcza wyszukiwanie na autopilocie.

Algolia niedawno zwiększyła swój bezpłatny plan z 10 000 rekordów do 1 miliona rekordów, jaki był założeniem tej decyzji, i jak zareagował rynek?

Specjalnie wybraliśmy, aby rozwinąć ceny i pakiet Algolii, aby być jeszcze bardziej przyjaznymi dla deweloperów, wprowadzając dwa nowe plany skierowane do deweloperów: plan „budowy”, który jest bezpłatny, i plan „rozwoju”, który oferuje łatwą skalowalność w przystępnych cenach. Nowy plan Buduj zwiększa liczbę bezpłatnych rekordów, które deweloper może przechowywać w Algolii, z 10 000 do 1 miliona rekordów. To reprezentuje 100-krotny wzrost liczby bezpłatnych rekordów, które deweloperzy mogą teraz indeksować w Algolii. Dodatkowo Algolia obniżyła koszt żądań wyszukiwania w planie Rozwijaj o 50% i rekordów o 60%.

Pomysł za naszym zaktualizowanym planem „Buduj” jest taki, aby zapewnić deweloperom bezpłatny dostęp do całego zestawu funkcji na platformie AI-napędzanego wyszukiwania i odkrywania. Plan „Rozwijaj”, gdy deweloper jest gotowy do skalowania swojej aplikacji, umożliwia deweloperom bardziej przyjazne dla deweloperów ceny oparte na użyciu dla środowisk produkcyjnych.

Jedną ważną uwagą tutaj jest to, że każdy projektant, twórca lub budowniczy – niezależnie od tego, czy jest to przypadkowy, czy w pełni zaangażowany inżynier oprogramowania – może szybko i łatwo uzyskać dostęp do wszystkich narzędzi, dokumentacji, przykładowego kodu, treści edukacyjnej i funkcjonalności integracji międzyplatformowej niezbędnych do rozpoczęcia pracy z zarządzaniem danymi, budowaniem interfejsu wyszukiwania, konfigurowaniem analiz i więcej – wszystko za darmo. Ponadto będą mieli natychmiastowy dostęp do rosnącej społeczności deweloperów liczącej ponad 5 milionów budowniczych.

Czy mógłbyś omówić narzędzia personalizacji wyszukiwania oferowane przez Algolię?

Algolia oferuje kilka narzędzi personalizacji wyszukiwania, aby pomóc firmom wykorzystać dane do poprawy rekomendacji, w tym różne rodzaje rekomendacji i unikalne sposoby wykorzystania danych do napędzania tych rekomendacji.

Kilka przykładów obejmuje:

• Najpopularniejsze: zaleć inne elementy, które są popularne i związane z wyszukiwaniami, które Twój klient wykonał.
• Opinie: ludzie chcą kupować produkty z najlepszymi opiniami.
• Personalizowane: na podstawie tego, co kupiłeś ostatnio, historii przeglądania, lokalizacji lub innych czynników, zalecamy te inne produkty.

Te metody oparte na danych mogą pomóc szybko poprawić wyniki na podstawie tego, jak klienci wchodzą w interakcje z produktami, więc jesteś bardziej skłonny zalecić produkty, które naprawdę konwertują najlepiej.

Opisałeś Algolię jako najbardziej skalowalną hybrydową wyszukiwarkę AI na świecie. Jak Algolia została zaprojektowana, aby skalować się tak wydajnie?

To wszystko wraca do Neural Hashing. To rozwiązanie kompresuje i dramatycznie przyspiesza każde zapytanie. Jest o wiele szybsze do obliczania podobieństwa haszowanego niż standardowych podobieństw wektorowych i zwraca wyniki w milisekundach.

Neural Hashing reprezentuje przełom w umieszczaniu odzyskiwania AI w produkcji dla ogromnej ilości przypadków użycia. W połączeniu z AI-napędzanym przetwarzaniem zapytań i ponownym ранżowaniem, obiecuje uwolnić pełną moc AI w wyszukiwaniu na stronie. Przed przełomowym rozwiązaniem Algolii wyszukiwanie oparte na wektorach było zbyt kosztowne, aby uruchomić je w produkcji.

Część kanapki, na którą chcę się najbardziej skoncentrować, to mięso: pobranie. Powodem, dla którego mówimy, że jesteśmy jedyną prawdziwą platformą wyszukiwania AI od końca do końca, jest to, że trwała walka w branży wyszukiwania, aby dodać AI do pobierania. Pobieranie informacji jest niezwykle złożonym procesem, a jeszcze bardziej skomplikowanym jest opanowanie wysokowydajnego, efektywnego kosztowo pobierania AI w skali. Opanowaliśmy to dzięki naszej przełomowej technice Neural Hashing. W ten sposób podstawiliśmy się w poszukiwaniu świętego Graala wyszukiwania AI.

Czy jest coś jeszcze, co chciałbyś podzielić się na temat Algolii?

To ekscytujący czas, aby pracować w Algolii, i zawsze szukamy możliwości rozpoczęcia rozmów z utalentowanymi, pełnymi pasji ludźmi, którzy chcą do nas dołączyć w naszej podróży, aby zbudować najlepszą technologię wyszukiwania na świecie. Jeśli to brzmi jak Ty, zapraszam do sprawdzenia naszych aktualnych ofert na https://www.algolia.com/careers/.