Perché l’AI non fornisce raccomandazioni di prodotti migliori

Se sei interessato a cose oscure, ci sono due motivi per cui le tue ricerche di articoli e prodotti sono probabilmente meno correlate ai tuoi interessi rispetto a quelli dei tuoi pari “mainstream”; o sei un caso “edge” di monetizzazione le cui esigenze saranno soddisfatte solo se sei anche nelle categorie superiori di potere di acquisto economico (ad esempio, prodotti e servizi relativi alla gestione della ricchezza); o gli algoritmi di ricerca che stai utilizzando stanno sfruttando il filtraggio collaborativo (CF), che favorisce gli interessi della maggioranza.

Dal momento che il filtraggio collaborativo è più economico e stabile rispetto ad altri algoritmi e framework potenzialmente più capaci, è possibile che entrambi questi casi si verifichino.

I risultati della ricerca basati su CF daranno priorità agli articoli che sono percepiti come popolari tra “persone come te”, per quanto il framework ospite possa capire che tipo di consumatore sei.

Se sei restio a fornire informazioni di profilazione dei dati al sistema ospite – ad esempio, non incline a premere i pulsanti “Mi piace” su Netflix e altri servizi di contenuti video – è probabile che tu venga classificato in modo abbastanza generico nelle tue prime interazioni con il sistema, e le raccomandazioni che ricevi rifletteranno le tendenze più popolari.

Su una piattaforma di streaming, ciò potrebbe significare essere raccomandati spettacoli e film che sono attualmente “caldi”, come reality TV e documentari sui delitti, indipendentemente dal tuo interesse per questi. Allo stesso modo per le piattaforme di raccomandazione di libri, che tenderanno a offrire best seller attuali e recenti, apparentemente in modo arbitrario.

In teoria, anche gli utenti che sono cauti con i dati dovrebbero eventualmente ottenere risultati migliori da tali sistemi in base al modo in cui li utilizzano e alle cose che cercano, poiché la maggior parte dei framework di ricerca fornisce agli utenti la possibilità limitata di modificare la loro cronologia di utilizzo.

Qualsiasi colore ti piaccia, purché sia nero

Tuttavia, secondo uno studio recente dell’Austria, l’ascesa del filtraggio collaborativo rispetto al filtraggio basato sul contenuto (che cerca di definire relazioni tra prodotti invece di considerare solo la popolarità aggregata), e ad altre approcci alternativi, inclina i sistemi di ricerca verso un pregiudizio di popolarità a lungo termine, in cui i risultati ovviamente popolari vengono spinti verso gli utenti finali che è improbabile che ne siano entusiasti.

La carta trova che gli utenti che non sono interessati a elementi popolari ricevono ‘significativamente peggiori’ raccomandazioni rispetto agli utenti con un interesse medio o alto per la popolarità, e (forse tautologicamente) che gli elementi popolari vengono raccomandati più frequentemente degli elementi impopolari. I ricercatori concludono anche che gli utenti con poco interesse per elementi popolari tendono ad avere profili utente più grandi che potrebbero potenzialmente migliorare i sistemi di raccomandazione – se solo i sistemi potessero superare la loro dipendenza dalle metriche del “branco”.

Confronto tra popolarità e complessità dei profili utente mostra che gli utenti ‘marginali’ disinteressati al contenuto mainstream hanno effettivamente più potenziale contenuto per i sistemi di raccomandazione da estrarre; ma poiché tali utenti non si conformano alle tendenze, sembra essere un’opportunità persa. Fonte: https://arxiv.org/pdf/2203.00376.pdf

La carta è intitolata Pregiudizio di popolarità nei sistemi di raccomandazione multimediali basati sul filtraggio collaborativo, e proviene da ricercatori del now-Center GmbH di Graz e dell’Università tecnica di Graz.

Domini coperti

Basandosi su lavori precedenti che hanno esaminato singoli settori (come le raccomandazioni di libri), il nuovo studio esamina quattro domini: libri digitali (attraverso il dataset BookCrossing); film (attraverso MovieLens); musica (attraverso Last.fm); e anime (attraverso MyAnimeList).

Lo studio ha applicato quattro algoritmi di raccomandazione multimediali collaborativi (MMRS) ai dataset divisi in tre gruppi di utenti, in base alla loro inclinazione a essere recettivi ai risultati ‘popolari’: LowPop, MedPop e HighPop. I gruppi di utenti sono stati filtrati fino a 1000 gruppi di dimensioni uguali, in base alla minima, media e massima probabilità di favorire i risultati ‘popolari’.

Commentando i risultati, gli autori affermano:

‘[Noi] troviamo che la probabilità che un elemento multimediale sia raccomandato è fortemente correlata alla sua popolarità [e] che gli utenti che non sono interessati a elementi popolari ricevono raccomandazioni multimediali ‘significativamente peggiori’ rispetto agli utenti con un interesse medio o alto per la popolarità…

‘I nostri risultati dimostrano che, sebbene gli utenti con poco interesse per elementi popolari tendano ad avere i profili utente più grandi, ricevono la minore accuratezza delle raccomandazioni. Pertanto, future ricerche sono necessarie per mitigare il pregiudizio di popolarità nei MMRS, sia a livello di elemento che di utente.’

Tra gli algoritmi valutati c’erano due varianti di K-Nearest Neighbors (KNN), UserKNN e UserKNNAvg. Il primo di questi non genera una valutazione media per l’utente e l’elemento target. Una variante di fattorizzazione matriciale non negativa (NMF) è stata testata, insieme a un algoritmo CoClustering.

Il protocollo di valutazione ha considerato il compito di raccomandazione come una sfida di previsione, misurata dai ricercatori in termini di errore assoluto medio (MAE), contro un protocollo di convalida incrociata a cinque fold che supera la consueta divisione 80/20 tra dati di addestramento e di test.

I risultati indicano una quasi-garanzia di pregiudizio di popolarità sotto il filtraggio collaborativo. La domanda, argomentabile, è se ciò sia percepito come un problema dalle società da multi-miliardi di dollari che attualmente incorporano il CF nei loro algoritmi di ricerca.

In tutti e quattro i dataset studiati su quattro raccomandazioni collaborative popolari, ogni risultato indica che gli elementi multimediali popolari sono più probabili di essere raccomandati rispetto alle offerte impopolari.

La via ‘facile’ di uscita

Sebbene il filtraggio collaborativo sia sempre più utilizzato come un’unica componente di una strategia di algoritmo di ricerca più ampia, ha una forte partecipazione nel settore della ricerca, e la sua logica e potenziale redditività è attraentemente facile da capire.

In sé, il CF essenzialmente scarica il compito di valutare il valore del contenuto agli utenti finali, e utilizza la loro adozione del contenuto come indice del suo valore e della sua potenziale attrattiva per altri clienti. Per analogia, è essenzialmente una mappa del ‘buzz dell’acquaio’.

Il filtraggio basato sul contenuto (CBF) è più difficile, ma potrebbe potenzialmente fornire risultati più rilevanti. Nel settore della visione computerizzata, una quantità crescente di ricerche è attualmente in corso per categorizzare il contenuto video e tentare di derivare domini, funzionalità e concetti di alto livello attraverso l’analisi di audio e video in uscita di film e TV.

Uno dei molti progetti di ricerca degli ultimi cinque anni che tenta di derivare funzionalità semantiche dal contenuto dei film, al fine di generare raccomandazioni ‘adiacenti’ più intelligenti. Fonte: https://arxiv.org/pdf/1701.00199.pdf

Tuttavia, questo è un perseguimento relativamente nascente, e legato alla lotta attuale, più generale, per quantificare, isolare e sfruttare concetti e funzionalità di alto livello nella conoscenza del dominio.

Chi utilizza il filtraggio collaborativo?

Al momento della stesura, il motore di raccomandazione di Netflix spesso criticato rimane fisso su vari approcci di filtraggio collaborativo, applicando una varietà di tecnologie ausiliarie in tentativi continui di generare raccomandazioni più rilevanti per l’utente.

Il motore di ricerca di Amazon è evoluto dal suo primo utilizzo del filtraggio collaborativo basato sull’utente al metodo di filtraggio collaborativo elemento-per-elemento, che pone maggiore enfasi sulla storia di acquisto del cliente. Naturalmente, ciò può portare a tipi diversi di inesattezza, come bolle di filtraggio, o eccessivo enfasi sui dati sparsi. In quest’ultimo caso, se un cliente occasionale di Amazon effettua un acquisto ‘insolito’, come un set di operette per un amico appassionato di opera, potrebbe non esserci un acquisto alternativo che rifletta le preferenze del cliente per fermare questo acquisto da diventare un’influenza sulle proprie raccomandazioni.

Il filtraggio collaborativo è anche ampiamente utilizzato da Facebook, in concerto con altri approcci, e anche da LinkedIn, YouTube e Twitter.

Pubblicato per la prima volta il 2 marzo 2022.