Bör rekommendationssystem vara undantagna från post-spårningstiden?

Såsom insamling av första partsdata blir den nya lodstjärnan för marknadsförare och databroker, riskerar den ökade uppmärksamheten på ‘stängda’ datasystem att dra ner en av maskinlärningens mest hängivna forskningssektorer i kontrovers och ökad reglering.

Åtgärder som vidtas av FAANG-aktörer och FOSS-producenter under de närmaste 12-18 månaderna är satta att stänga ner kulturen av cross-domänspårning som har omgivit användaranalyssystem under de senaste tjugo åren, och kulminerade i Cambridge Analytica-skandalerna och, därefter, oemotståndlig allmän efterfrågan på ökad online-säkerhet.

Oavsett om implementeringen motsvarar idealet, och oavsett i vilken utsträckning mer generella spårningssystem (såsom Google’s FLOC och Apple’s SKAdNetwork) kan stilla konsumenternas ilska och tillfredsställa annonsörer, gäller denna nya våg av oro för användarintegritet endast för cross-domän data-extraktion i en ‘offentlig’ kontext, och inte för stängda eller proprietära konsumentmiljöer, och de skräddarsydda rekommendationssystem som driver engagemanget där.

Rik data i murade trädgårdar

Plattformar som Netflix, Disney+, HBO Max, Roku och Amazon -ekosystemet (inklusive Prime Video och produktrekommendationer), som använder anpassade maskinlärningsrekommendationssystem, är bland de innehållstjänster som nu förökar sig och befäster sig som streamingindustrin balkaniseras.

När tredjepartsdatasamling minskar, verkar fördelen som dessa större streamingaktörer behåller i termer av finmaskig tillgång till kundanvändningsdata sannolikt att inspirera avund och imitation, och en förnyad betoning på första parts-ramverk som ett sätt att återta hyperpersonlig målinriktning från de mer generella nya analysystemen.

Om detta händer, är det inte troligt att det kommer att vara lika demokratiskt eller meritokratiskt som tidigare kriterier för inträde, eftersom den största fördelen kommer att falla till leverantörer med det mest omfattande nätverket av första parts-plattformar; med tillräckliga utvecklingsresurser för att tillhandahålla säkra lokala autentiseringssystem; och som kan hantera, analysera och monetisera högvolymdata lokalt.

Detta skulle fokusera allmänhetens granskning på integritetsaspekterna av ‘stängda’ rekommendationssystem på ett sätt som de har kunnat undvika tills nu, eftersom de tidigare har varit undantagsfall, och åtnjutit undantagsprivilegier, som opererar i en kontext där slutanvändaren uttryckligen har valt att delta i aggressiva datainsamlingspraxis som inte generellt tillåts i öppna nätverk.

En vidare återgång till hermetiska första parts-miljöer

En ökad betoning på första partsdata verkar trolig att medföra en återgång till de domänspecifika autentiseringssystem som föregick populariteten hos tredjepartsautentiseringsmetoder som tillhandahålls av Google (0Auth 2.0), Facebook och Twitter, samt andra populära tillbehörssociala plattformar som Disqus.

För tio år sedan löste den breda antagandet av dessa tredjepartsautentiseringsplattformar många säkerhetsproblem för domäner med begränsade utvecklingsresurser, men gjorde det också svårare att få samma granularitet av handlingsbara användardata som ett dedikerat och lokalt första partsautentiseringssystem och övervakningssystem tillåter. På den tiden spelade det ingen roll så mycket, eftersom cross-domänspårning kunde brottas över den datagapan.

Inloggning som lösning på en existentiell kris

Nu ligger fördelen i att säkerställa att en användare är inloggad, även om det inte finns några uttryckliga mekanismer för att monetisera dem. Ett exempel på detta är det växande antalet medieutgivare som kräver inloggning för att visa innehåll, även om det inte finns någon betalvägg på plats. Till exempel experimenterar The Guardian för närvarande med inloggningskrav för artikelsidor som kommer från Google-sökningar:

Skärmdump av en ‘inloggningsvägg’ för en Guardian-artikelsida som har kommit från en Google-sökning. Detta kan inte infångas i webbarkivsnapshots, eftersom begränsningen genereras antingen av refererarhuvuden eller IP-baserade system som avslöjar Google som ursprunget till klicken.

Begränsningar av detta slag kan vara svåra att fastställa för en enskild tittare, eftersom de kan variera över geolokaliseringar eller andra omständigheter. Till exempel är den ovan nämnda Guardian-artikeln inte begränsad på något sätt när den navigeras till från Guardian-webbplatsen (även om läsaren inte är inloggad), eller när den åtkoms direkt. Att kräva inloggning från en Google-hänvisning är ett billigt sätt att generera en efterfrågestyrd ökning av medlemskap utan att alienater ‘för-capturerade’ läsare.

Även om det alltid har funnits datainsamlingsfördelar i denna typ av första partsengagemang (dvs. en ‘lokal’ inloggning), är det troligt att fallet med cross-domänspårning kommer att höja praktiken från ‘fördelaktig’ till en existentiell nödvändighet för att undvika de glesare marknadsdataströmmarna från FLOC och SKAdNetwork.

Impulsen mot första partsdatainsamling

Bevisen för en första partsdata ‘guldrush’ är tjock på marken. Enligt en branschinsiders synvinkel i Forbes, kommer fallet med tredjepartscookies att leda till nya möjligheter för företag att kuratera och sälja andra partsdata, där de har tillräckligt med första partsinfrastruktur för att effektivt bli databroker i eget namn.

Analys på annat håll förutspår också att detaljhandlare (som investerar kraftigt i maskinlärningsrekommendationssystem) kommer att bli de nya ‘mediamogulerna’.

I en bloggpost exemplifierar monetiseringsplattformen Setupad avsikten att inte ge med sig för federerade, data-begränsade system som FLOC, uttalande att ‘beteendemässig målinriktning är svaret på framtida framgång för annonsörer’, och att första partsinfångning är det absoluta förkörningskravet för detta.

Beteendemässig målinriktning är vad orsakade den nuvarande tektoniska skiftningen i konsumentintegritet i första hand; och det är vad marknads- och professionella influenserindustrierna vill återvinna – genom ombud, genom smyg eller genom andra medel, oavsett om det kan dra ner rekommendationssystemforskningssektorn i gyttjan med det.

Den första parts-‘klubben’

Förutom kravet på dyra infrastrukturer, samt säkerhets- och utvecklingsresurser, indikerar en annan faktor varför endast större företag sannolikt kommer att blomstra i åldern av första partsdatainsamlingssystem: ett företag kommer att behöva övertygande marknadsinfångning för att tvinga konsumenter tillbaka till de lokala inloggningssystem som de var glada att överge för ett decennium sedan.

Detta är ett riskabelt drag, även för en stor spelare, och minnet av Digg’s undergång 2010 fortfarande hemsöker SEO- och marknadsföringsvärlden. Ju mer övertygande ett företags marknadsinfångning är, desto mindre skadligt kommer detta drag att vara, med kraftfullare företag som kan vädertroughs och anpassa sig bättre till det första partsekosystemet än mindre företag.

Effekter på rekommendationssystemforskning

Såsom denna situation utvecklas, kan den hota den relativa ‘fri pass’ som reglerande tillsyn har gett till maskinlärningsrekommendationssystemforskning från företag som Google, Amazon och Netflix.

Till en viss grad förutser EU:s nya förslag för AI-lagstiftning en större granskning av rekommendationssystem i alla fall. Även om det är oklart om utkastets bestämmelse mot ‘undermedvetna tekniker bortom en persons medvetande för att materialt förvränga en persons beteende’ kommer att tillämpas på rekommendationssystem, är det förväntat att annonsörer och rekommendationssystemforskare kommer att lobby för undantagsbehandling.

Men det kan vara svårt att göra ett fall för att ringfänsla rekommendationssystemforskning i händelse av att ‘murade trädgård’-tillvägagångssättet blir den nya branschstandarden, och de lätta akademiska betesmarkerna som har värd detta sektor av maskinlärningsforskning blir en högvolym varm säng för massivt kommersiellt första partsbeteendeforskningsutveckling.

Stora investeringar i första partsdataarbetsflöden kan vara den enda hoppet om att återskapa samma slags högeffektiva ‘psykiska’ annonser och politiska propaganda som kännetecknade Cambridge Analytica-eran; men för reglerarna kan det verka som att döden av tredjepartscookies enbart flyttade ‘oreputabla’ metoder från gatorna och in i stängda lokaler. Om den yttre effekten av dessa aktiviteter väcker allmänhetens ilska igen, kan det visa sig vara ett knappt tillflyktsort.