Varför AI inte tillhandahåller bättre produktrekommendationer

Om du är intresserad av obskyra saker, finns det två anledningar till varför dina sökningar efter artiklar och produkter sannolikt är mindre relaterade till dina intressen än de som är “mainstream”; antingen är du en monetiserings-“edge case” vars intressen endast kommer att tillgodoses om du också är i de övre kategorierna av ekonomisk köpkraft (till exempel produkter och tjänster relaterade till ‘förvaltning av förmögenhet’); eller så använder du sökalgoritmer som använder collaborative filtering (CF), som föredrar intressen hos majoriteten.

Eftersom collaborative filtering är billigare och mer etablerat än andra potentiellt mer kapabla algoritmer och ramverk, är det möjligt att båda fallen gäller.

CF-baserade sökresultat kommer att prioritera artiklar som uppfattas vara populära bland “personer som du”, så gott som värdramverket kan förstå vad du är för en konsument.

Om du är försiktig med att tillhandahålla dataprofileringsinformation till värdsystemet – till exempel inte benägen att klicka på “Gilla”-knapparna i Netflix och andra videoinnehållstjänster – kommer du sannolikt att klassificeras ganska generiskt i dina tidigaste interaktioner med systemet, och rekommendationerna du får kommer att spegla de mest populära trenderna.

På en strömningstjänst kan detta betyda att du rekommenderas vilka shower och filmer som för närvarande är “heta”, såsom verklighetstv och rättsmedicinska dokumentärer, oavsett ditt intresse för dessa. Likaså för bokrekommendationstjänster, som tenderar att erbjuda aktuella och nyliga bästsäljare, tydligen godtyckligt.

I teorin bör även data-försiktiga användare så småningom få bättre resultat från sådana system baserat på hur de använder dem och vad de söker efter, eftersom de flesta sökramverk ger användarna begränsad möjlighet att redigera sin användningshistorik.

Valfri färg du vill, så länge det är svart

Men enligt en ny studie från Österrike, tenderar collaborative filtering över innehållsbaserad filtering (som försöker definiera relationer mellan produkter istället för att bara ta hänsyn till sammanlagd popularitet), och andra alternativa tillvägagångssätt, att leda söksystem mot långsiktig popularitetsbias, där uppenbarligen populära resultat prioriteras för slutanvändare som sannolikt inte kommer att entusiasmeras av dem.

Studien visar att användare som är ointresserade av populära artiklar får “väsentligt sämre” rekommendationer än användare med medel eller hög popularitetsinriktning, och (kanske tautologiskt) att populära artiklar rekommenderas oftare än impopulära artiklar. Forskarna drar också slutsatsen att användare med låg popularitetsinriktning tenderar att ha större användarprofiler som potentiellt kan förbättra rekommendationssystem – om systemen bara kunde sluta med “hjord”-metriken.

Jämförelse av popularitet och komplexitet hos användarprofiler visar att ‘marginella’ användare som är ointresserade av mainstream-innehåll faktiskt har mer potentialt innehåll för rekommendationssystem att utvinna; men eftersom sådana användare inte följer trender, verkar det vara en förlorad möjlighet. Källa: https://arxiv.org/pdf/2203.00376.pdf

Den studien heter Popularitetsbias i Collaborative Filtering-baserade multimedierekommendationssystem, och kommer från forskare vid nu-Center GmbH i Graz, och Graz universitet för teknologi.

Omfång som täcks

Genom att bygga på tidigare arbeten som studerade enskilda sektorer (såsom bokrekommendationer), undersöker den nya studien fyra områden: digitala böcker (via BookCrossing-databasen); filmer (via MovieLens); musik (via Last.fm); och animes (via MyAnimeList).

Studien tillämpade fyra populära multimedierekommendationssystem (MMRS) collaborative filtering-algoritmer mot dataset delade i tre användargrupper, enligt deras benägenhet att vara mottagliga för ‘populära’ resultat: LowPop, MedPop, och HighPop. Användargrupperna filtrerades ner till 1000 lika stora grupper, baserat på minst, genomsnitt och mest benägna att föredra ‘populära’ resultat.

I kommentar till resultaten säger författarna:

‘[Vi] finner att sannolikheten för att en multimedieartikel ska rekommenderas starkt korrelerar med denna artikels popularitet [och] att användare som är ointresserade av populära artiklar får ‘väsentligt sämre’ multimedie-rekommendationer än användare med medel eller hög popularitetsinriktning…

‘Våra resultat visar att användare med liten intresse för populära artiklar tenderar att ha större användarprofiler som potentiellt kan förbättra rekommendationssystem – om systemen bara kunde sluta med ‘hjord’-metriken.’

Bland de algoritmer som utvärderades fanns två K-Nearest Neighbors (KNN)-varianter, UserKNN och UserKNNAvg. Den första av dessa genererar inte en genomsnittlig betyg för målanvändaren och artikeln. En icke-negativ matrisfaktorisering-variant (NMF) testades också, tillsammans med en CoClustering-algoritm.

Utvärderingsprotokollet ansåg rekommendationsuppgiften som en förutsägelseutmaning, mätt av forskarna i form av medelabsolut fel (MAE), mot en femfaldig korsvalideringsprotokoll som överstiger den vanliga 80/20-fördelningen mellan tränade och testdata.

Resultaten visar en nästan garanti för popularitetsbias under collaborative filtering. Frågan, kanhända, är om detta uppfattas som ett problem av de multibilliondollarföretag som för närvarande inkorporerar CF i sina sökalgoritmer.

Över alla fyra dataset som studerats med fyra populära Collaborative Filtering-rekommendationer, visar varje resultat att populära mediaartiklar är mer benägna att rekommenderas än impopulära erbjudanden.

Den ‘lätta’ utvägen

Även om collaborative filtering alltmer används som endast en del av en bredare sökalgoritmstrategi, har det ett starkt intresse i sökområdet, och dess logik och potentiella lönsamhet är attraktivt lätt att förstå.

I sig själv, CF avlastar i princip uppgiften att utvärdera innehållsvärde till slutanvändare, och använder deras användning av innehållet som en indikator på dess värde och potentiella attraktivitet för andra kunder. Genom analogi, är det i princip en karta över “vattenkylarprat”.

Innehållsbaserad filtering (CBF) är svårare, men kunde potentiellt ge mer relevanta resultat. I datorsektorn för syn, är en ökande mängd forskning för närvarande utgiven för att kategorisera videoinnehåll och försöka härleda domäner, funktioner och högnivåkoncept genom analys av ljud och video i film- och tv-utgång.

Ett av många forskningsprojekt under de senaste fem åren som försöker härleda semantiska funktioner från innehållet i filmer, för att generera mer intelligenta ‘adjacent’ rekommendationer. Källa: https://arxiv.org/pdf/1701.00199.pdf

Men detta är ett relativt nytt företag, och bundet upp i den nuvarande, mer allmänna kampen att kvantifiera, isolera och utnyttja högnivåkoncept och funktioner i domänkunskap.

Vem använder Collaborative Filtering?

Vid tidpunkten för skrivande, förblev Netflix ofta kritiserade rekommendationsmotor fokuserad på olika collaborative filtering-tillvägagångssätt, med tillämpning av en mängd adjunkttekniker i pågående försök att generera mer användar-relevanta rekommendationer.

Amazons sökmotor utvecklades från dess tidiga antagande av användarbaserad collaborative filtering till en artikel-artikel collaborative filtering-metod, som lägger större tonvikt på kundens köphistorik. Naturligtvis kan detta leda till olika typer av fel, såsom filterbubblor, eller överbetoning på sparsam data. I det senare fallet, om en ovanlig Amazon-kund gör ett “ovanligt” köp, såsom en uppsättning operetter för en operälskande vän, kanske det inte finns tillräckligt med alternativa inköp som speglar kundens egna preferenser för att stoppa detta inköp från att bli en påverkan på deras egna rekommendationer.

Collaborative filtering används också i stor utsträckning av Facebook, i samverkan med andra tillvägagångssätt, och också av LinkedIn, YouTube och Twitter.

Publicerad första gången den 2 mars 2022.