Alibaba rozwija symulację wyszukiwarki za pomocą sztucznej inteligencji, która wykorzystuje dane na żywo

We współpracy z akademickimi badaczami w Chinach, Alibaba opracowała symulację wyszukiwarki za pomocą sztucznej inteligencji, która wykorzystuje dane z infrastruktury na żywo giganta e-commerce w celu opracowania nowych modeli rankingowych, które nie są ograniczone przez “historyczne” lub nieaktualne informacje.

Silnik, nazwany AESim, reprezentuje drugie duże ogłoszenie w ciągu tygodnia, które potwierdza potrzebę systemów sztucznej inteligencji, które mogą oceniać i włączać dane na żywo i bieżące, zamiast tylko abstrahować dane dostępne w momencie szkolenia modelu. Poprzednie ogłoszenie pochodziło od Facebooka, który w zeszłym tygodniu opublikował model językowy BlenderBot 2.0, interfejs NLP, który zawiera funkcję sondowania wyników wyszukiwania internetu w odpowiedzi na zapytania.

Celem projektu AESim jest zapewnienie środowiska eksperymentalnego dla opracowania nowych rozwiązań Learning-To-Rank (LTR), algorytmów i modeli w systemach komercyjnego odzyskiwania informacji. Podczas testowania ramy, badacze stwierdzili, że dokładnie odzwierciedla wyniki online w przydatnych i użytecznych parametrach.

Autorzy artykułu, w tym czterech przedstawicieli Uniwersytetu w Nankinie i działu badawczego Alibaba, twierdzą, że nowe podejście do symulacji LTR było konieczne z dwóch powodów: niepowodzenie niedawnych podobnych inicjatyw w głębokim uczeniu się w tworzeniu powtarzalnych technik, z licznymi algorytmami nieudanymi w tłumaczeniu na stosowane systemy świata rzeczywistego; oraz brak przenoszenia, w zakresie wydajności danych szkoleniowych w porównaniu z nowymi danymi w przypadkach, w których systemy były początkowo bardziej skuteczne.

Przechodzenie na żywo

Artykuł twierdzi, że AESim jest pierwszą platformą symulacji e-commerce opartą na danych na żywo i bieżących użytkowników i aktywności, i że może dokładnie odzwierciedlać wyniki online poprzez jednostronne wykorzystanie danych na żywo, zapewniając niebieskie niebo środowiska szkoleniowego dla późniejszych badaczy w celu oceny metodologii i innowacji LTR.

Model obejmuje nowe podejście do typowego schematu przemysłowych wyszukiwarek: pierwszy etap to pobranie elementów związanych z zapytaniem użytkownika, które nie są początkowo prezentowane użytkownikowi, ale są najpierw sortowane przez ważony model LTR. Następnie posortowane wyniki są przekazywane przez filtr, który uwzględnia cele firmy w dostarczaniu wyników – cele, które mogą obejmować czynniki reklamowe i różnorodności.

Architektura AESim

W AESim zapytania są zastępowane przez indeksy kategorii, co pozwala systemowi pobrać elementy z indeksu kategorii przed przekazaniem ich do dostosowanego re-rankera, który produkuje ostateczną listę. Chociaż ramy pozwalają badaczom na badanie efektów wspólnego rankingu w przypadku wielu modeli, ten aspekt jest pozostawiony do przyszłej pracy, a bieżąca implementacja automatycznie szuka optymalnej oceny na podstawie jednego modelu.

Architektura AESim. Źródło: https://arxiv.org/pdf/2107.07693.pdf

AESim tworzy osadzenia (wirtualne reprezentacje w architekturze sztucznej inteligencji), które obejmują “wirtualnego użytkownika” i jego zapytanie, oraz wykorzystuje podejście sieci generatywnej przeciwnej z karami gradientu (WGAN-GP).

Architektura składa się z bazy danych milionów dostępnych elementów posortowanych według kategorii, systemu rankingowego, modułu sprzężenia zwrotnego oraz syntetycznych zbiorów danych generowanych przez składniki oparte na GAN. Moduł sprzężenia zwrotnego jest ostatecznym etapem w przepływie pracy, który może oceniać wydajność najnowszej iteracji modelu rankingowego.

Generatywne przeciwne uczenie się naśladownictwa

W celu modelowania logiki decyzyjnej “modułu wirtualnego użytkownika”, moduł sprzężenia zwrotnego (który dostarcza ostateczne wyniki) jest szkolony za pomocą generatywnego przeciwego uczenia się naśladownictwa (GAIL), teorii po raz pierwszy zaproponowanej przez badaczy z Stanfordu w 2016 roku. GAIL jest modelem bezpośrednim, który pozwala systemowi na rozwinięcie polityki bezpośrednio z danych za pomocą uczenia się naśladownictwa.

Zestawy danych opracowane przez AESim są podstawowo takie same jak statyczne, historyczne zestawy danych używane w poprzednich modelach nadzorowanych dla podobnych systemów. Różnica polega na tym, że AESim nie opiera się na statycznym zestawie danych do sprzężenia zwrotnego i nie jest ograniczony przez kolejność elementów, które zostały wygenerowane w czasie, gdy (stare) dane szkoleniowe zostały skompilowane.

Generatywny aspekt AESim koncentruje się na tworzeniu wirtualnego użytkownika za pomocą WGAN-GP, który wytwarza “fałszywe” cechy użytkownika i zapytania, a następnie próbuje odróżnić te fałszywe dane od prawdziwych danych użytkowników dostarczonych przez sieci na żywo, do których AESim ma dostęp.

Chmura reprezentująca fałszywych i prawdziwych użytkowników w typowej symulacji wyszukiwarki przemysłowej.

Testowanie

Badacze przetestowali AESim, wdrożając punktowe, parami i ListMLE instancję do systemu, z których każda musiała obsłużyć nieprzecinający się losowy fragment zapytań wyszukiwania w kontekście algorytmu re-rankera.

W tym momencie AESim jest wyzwany przez szybko zmieniające się i zróżnicowane dane na żywo w podobny sposób, jak nowy model językowy Facebooka. Dlatego wyniki zostały rozpatrzone w świetle ogólnej wydajności.

Przetestowany przez dziesięć dni, AESim wykazał zdumiewającą spójność w trzech modelach, chociaż badacze zauważyli, że dodatkowy test modułu Document Context Language Model (DLCM) wykonał się słabo w środowisku offline, ale bardzo dobrze w środowisku na żywo, i przyznają, że system będzie wykazywał luki w porównaniu z jego na żywo odpowiednikami, w zależności od konfiguracji i testowanych modeli.