Alibaba Sviluppa un Motore di Ricerca di Simulazione AI che Utilizza Dati Live

In collaborazione con ricercatori accademici in Cina, Alibaba ha sviluppato un motore di ricerca di simulazione AI che utilizza dati del mondo reale provenienti dall’infrastruttura live del gigante del commercio elettronico al fine di sviluppare nuovi modelli di ranking che non sono limitati da informazioni ‘storiche’ o obsolete.

Il motore, chiamato AESim, rappresenta il secondo annuncio importante in una settimana per riconoscere la necessità di sistemi AI in grado di valutare e incorporare dati live e attuali, invece di limitarsi a dati astratti disponibili al momento dell’addestramento del modello. L’annuncio precedente era di Facebook, che la scorsa settimana ha presentato il modello linguistico BlenderBot 2.0, un’interfaccia NLP che presenta una raccolta live dei risultati di ricerca internet in risposta a query.

L’obiettivo del progetto AESim è fornire un ambiente sperimentale per lo sviluppo di nuove soluzioni di apprendimento per il ranking (LTR) in sistemi di recupero di informazioni commerciali. Nel testare la piattaforma, i ricercatori hanno scoperto che rifletteva con precisione le prestazioni online all’interno di parametri utili e azionabili.

Gli autori del documento, tra cui quattro rappresentanti dell’Università di Nanjing e della divisione di ricerca di Alibaba, affermano che un nuovo approccio alle simulazioni LTR era necessario per due motivi: il fallimento di iniziative recenti simili nel deep learning per creare tecniche riproducibili, con una serie di algoritmi che non sono riusciti a tradursi in sistemi del mondo reale; e la mancanza di trasferibilità, in termini di prestazioni dei dati di addestramento rispetto a dati nuovi in casi in cui i sistemi erano inizialmente più efficaci.

Andando Live

Il documento afferma che AESim è la prima piattaforma di simulazione di e-commerce basata sui dati di utenti e attività live e correnti, e che può riflettere con precisione le prestazioni online attraverso l’uso unilaterale di dati live, fornendo un ambiente di addestramento per futuri ricercatori per valutare metodologie e innovazioni LTR.

Il modello incorpora una nuova interpretazione di uno schema tipico per motori di ricerca industriali: la prima fase è il recupero di elementi relativi alla query dell’utente, che non vengono inizialmente presentati all’utente, ma vengono invece ordinati da un modello LTR ponderato. Quindi i risultati ordinati vengono passati attraverso un filtro che considera gli obiettivi dell’azienda nel fornire i risultati – obiettivi che possono includere fattori di pubblicità e diversità.

Architettura di AESim

In AESim, le query vengono sostituite con indici di categoria, consentendo al sistema di recuperare elementi da un indice di categoria prima di passarli a un re-ranker personalizzabile che produce l’elenco finale. Sebbene la piattaforma consenta ai ricercatori di studiare gli effetti del ranking congiunto su più modelli, questo aspetto è stato lasciato per lavori futuri, e l’attuale implementazione cerca automaticamente la valutazione ideale in base a un singolo modello.

L’architettura di AESim. Fonte: https://arxiv.org/pdf/2107.07693.pdf

AESim crea embedding (rappresentazioni virtuali nell’architettura di apprendimento automatico) che racchiudono l'”utente virtuale” e la sua query, e utilizza un approccio di rete generativa avversariale di Wasserstein con penalità del gradiente (WGAN-GP).

L’architettura comprende un database di milioni di elementi disponibili ordinati per categoria, un sistema di ranking personalizzabile, un modulo di feedback e dataset sintetici generati dai componenti basati su GAN. Il modulo di feedback è l’ultima fase del flusso di lavoro, in grado di valutare le prestazioni dell’ultima iterazione di un modello di ranking.

Apprendimento di Imitazione Avversariale Generativa

Al fine di modellare la logica decisionale del “Modulo Utente Virtuale”, il modulo di feedback (che fornisce i risultati finali) viene addestrato attraverso l’apprendimento di imitazione avversariale generativa (GAIL), una teoria proposta per la prima volta da ricercatori di Stanford nel 2016. GAIL è un paradigma senza modello che consente a un sistema di sviluppare una politica direttamente dai dati attraverso apprendimento di imitazione.

I set di addestramento sviluppati da AESim sono essenzialmente gli stessi dei dataset statici e storici utilizzati in modelli di apprendimento supervisionato per sistemi simili. La differenza con AESim è che non si basa su un dataset statico per il feedback, e non è limitato dagli ordini degli elementi generati al momento della creazione dei dati di addestramento (vecchi).

L’aspetto generativo di AESim si concentra sulla creazione di un utente virtuale attraverso WGAN-GP, che produce caratteristiche di utente e query “false”, e quindi tenta di discernere questi dati falsi dai dati di utente reali forniti dalle reti live a cui AESim ha accesso.

Una rappresentazione cloud di utenti falsi e reali in una simulazione di motore di ricerca industriale tipica.

Test

I ricercatori hanno testato AESim deployando un’istanza pair-wise, point-wise e ListMLE nel sistema, ognuno dei quali doveva servire una fetta casuale non intersecante di query di ricerca nel contesto di un algoritmo di re-ranker.

In questo punto AESim è sfidato dai dati live in rapida evoluzione e diversi, proprio come il nuovo modello linguistico di Facebook. Pertanto, i risultati sono stati considerati alla luce delle prestazioni generali.

Testato per dieci giorni, AESim ha dimostrato una notevole coerenza su tre modelli, sebbene i ricercatori abbiano notato che un test aggiuntivo di un modulo di modello di contesto del documento (DLCM) ha eseguito male l’ambiente offline, ma molto bene nell’ambiente live, e ammettono che il sistema dimostrerà lacune con i suoi omologhi live, a seconda della configurazione e dei modelli testati.