Alibaba Kehittää Hakukoneen Simulaatio AI:ta, Joka Käyttää Live-tietoja

Yhteistyössä akateemisten tutkijoiden kanssa Kiinassa Alibaba on kehittänyt hakukoneen simulaatio AI:n, joka käyttää oikean maailman tietoja ecommerce-jättiyrityksen live-infrastruktuurista kehittääkseen uusia ranking-malleja, jotka eivät ole rajoitettuja “historiallisiin” tai vanhentuneisiin tietoihin.

Moottori, jota kutsutaan AESim:ksi, edustaa toista suurta ilmoitusta viikossa, jossa tunnustetaan AI-järjestelmien tarve arvioida ja sisällyttää live- ja ajantasaiset tiedot, sen sijaan, että ne vain abstrahoisivat tiedot, jotka olivat saatavilla mallin koulutuksen aikana. Aikaisempi ilmoitus tuli Facebookilta, joka viime viikolla julkaisi BlenderBot 2.0-kielimallin, NLP-liittymän, joka sisältää live-Internet-haun tuloksia vastauksena kysymyksiin.

AESim-projektin tavoitteena on tarjota kokeellinen ympäristö uusien Learning-To-Rank (LTR) -ratkaisujen, algoritmien ja mallien kehittämiseen kaupallisten tietojen hakujärjestelmissä. Testatessaan kehystä, tutkijat totesivat, että se heijasti oikein online-suorituskykyä hyödyllisissä ja toiminnallisissa parametreissa.

Artikkelin kirjoittajat, mukaan lukien neljä edustajaa Nanjingin yliopistosta ja Alibaban tutkimusosastolta, väittävät, että uusi LTR-simulaatioiden lähestymistapa oli välttämätön kahteen syystä: viimeaikaisen vastaavanlaisen aloitteen epäonnistuminen luomaan toistettavia tekniikoita, ja puute siirrettävyydestä, joka liittyy koulutusdatan suorituskykyyn verrattuna uusiin tietoihin tapauksissa, joissa järjestelmät olivat alun perin tehokkaampia.

Menevä Live

Artikkeli väittää, että AESim on ensimmäinen e-commerce-simulaatioplatform, joka perustuu live- ja ajantasaisten käyttäjien ja toiminnan tietoihin, ja että se voi heijastaa oikein online-suorituskykyä yksipuolisesti käyttämällä live-tietoja, tarjoamalla sinisen taivaan koulutusleikkausalueen myöhemmille tutkijoille arvioida LTR-menetelmiä ja innovaatioita.

Malli sisältää uuden tavan tyypilliselle teollisuuden hakukoneen skeemalle: ensimmäinen vaihe on haettaa käyttäjän kyselyn liittyvät kohteet, jotka eivät ole aluksi esitetty käyttäjälle, vaan ne lajitellaan ensin painotetulla LTR-mallilla. Sitten lajitellut tulokset siirretään suodattimeen, joka ottaa huomioon yrityksen tavoitteet tuloksien toimittamisessa – tavoitteet, jotka voivat sisältää mainontaa ja monimuotoisuuden tekijöitä.

AESim:n Arkkitehtuuri

AESim:ssä kyselyt korvataan kategoriaindekseillä, jolloin järjestelmä voi hakea kohteita kategoriaindekseistä ennen kuin ne siirretään mukautettavaan uudelleenjärjestimeen, joka tuottaa lopullisen listan. Vaikka kehys sallii tutkijoille tutkia yhdistetyn järjestämisen vaikutuksia useiden mallien yli, tämä osuus jätetään tulevaan työhön, ja nykyinen toteutus etsii automaattisesti ihannetapaisen arvioinnin yhden mallin perusteella.

AESim luo upotukset (virtuaaliset edustukset koneoppimisen arkkitehtuurissa), jotka kattavat “virtuaalisen käyttäjän” ja hänen kyselynsä, ja käyttää Wasserstein Generative Adversarial Network with Gradient Penalty (WGAN-GP) -lähestymistapaa.

Arkkitehtuuri koostuu miljoonien saatavilla olevien kohteiden tietokannasta, joka on lajiteltu kategorioiden mukaan, mukautettavasta järjestelmästä, palautteen moduulista ja synteettisistä tietoista, jotka on luotu GAN-pohjaisilla komponenteilla. Palautteen moduuli on lopputulos työnkulussa, joka pystyy arvioimaan uusimman ranking-mallin suorituskykyä.

Generative Adversarial Imitation Learning

Jotta voidaan mallintaa “Virtuaalisen Käyttäjämoduulin” päätöksenteon logiikkaa, palautteen moduuli (joka tarjoaa lopputulokset) koulutetaan Generative Adversarial Imitation Learning (GAIL) -menetelmällä, joka on teoria, jota Stanfordin tutkijat esittivät vuonna 2016. GAIL on malliton paradigma, joka sallii järjestelmän kehittää politiikan suoraan tietojen kautta jäljittelyn kautta.

Koulutusjoukot, jotka AESim kehittää, ovat olennaisesti samat kuin staattiset, historialliset tietojoukot, jotka on käytetty aiemmissa valvottujen oppimismallien kaltaisissa järjestelmissä. Ero AESim:ssä on, että se ei ole riippuvainen staattisesta tietojoukosta palautteelle, eikä se ole rajoitettu kohteiden järjestykseen, joka luotiin silloin, kun (vanha) koulutusdata koottiin.

AESim:n generatiivinen osuus keskittyy virtuaalisen käyttäjän luomiseen WGAN-GP:n avulla, joka tuottaa “väärän” käyttäjän ja kyselyn ominaisuudet, ja sitten yrittää erottaa tämän väärän tiedon oikeasta käyttäjätiedosta, jota live-verkot tarjoavat, joihin AESim:llä on pääsy.

Testaus

Tutkijat testasivat AESim:ia käyttämällä parillista, pistekohtaisia ja ListMLE -instansseja järjestelmään, joista kunkin oli palveltava satunnainen osa hakukyselyistä uudelleenjärjestämisalgoritmin kontekstissa.

Tässä vaiheessa AESim haastetaan nopeasti muuttuvilla ja monimuotoisilla live-tiedoilla samalla tavalla kuin Facebookin uusi kielimalli todennäköisesti on. Siksi tulokset on tarkasteltu kokonaisuuden suorituskyvyn valossa.

AESim:ia testattiin kymmenen päivän ajan, ja se osoitti merkittävää johdonmukaisuutta kolmen mallin yli, vaikka tutkijat totesivat, että lisätesti Document Context Language Model (DLCM) -moduuli suoritti huonosti offline-ympäristössä, mutta erittäin hyvin live-ympäristössä, ja myöntävät, että järjestelmä osoittaa aukkoja live-vastineidensa kanssa, riippuen konfiguraatiosta ja testatavista malleista.