Facebook: ‘Nanotargeting’ Gebruikers Gebaseerd op Hun Veronderstelde Interesses

Onderzoekers hebben een methode ontwikkeld om een Facebook -advertentiecampagne te leveren aan slechts één persoon uit 1,5 miljard, gebaseerd alleen op de interesses van de gebruiker, en niet op persoonlijk identificeerbare informatie (PII), zoals e-mailadressen, telefoonnummers of geografische locaties die typisch geassocieerd worden met ‘targeting’-schandalen van de afgelopen jaren.

Gebruikers hebben beperkte controle over deze interesses, die algoritme-gedreven worden bepaald op basis van browse-gewoonten, ‘likes’ en andere vormen van interactie die Facebook kan identificeren, en die zijn opgenomen in de criteria voor het ontvangen van een Facebook-advertentie.

Aangezien interesses geassocieerd worden met Facebook-gebruikers op basis van de inhoud die ze posten en waarmee ze interacteren, kunnen gebruikers individueel worden getarget zonder ooit expliciet te vermelden wat hun interesses zijn in enige inhoud die ze posten, en in tegenstelling tot bijna alle huidige maatregelen die ze zouden kunnen nemen om zichzelf te beschermen tegen hyper-specifieke ad-targeting.

Het onderzoek suggereert ook dat ‘nanotargeting’ van gebruikers op deze manier niet alleen goedkoop is, maar soms gratis, aangezien Facebook vaak geen advertentiecampagne in rekening brengt als deze niet wordt weergegeven (d.w.z. een campagne die slechts één persoon bereikt).

In 2018 heeft een AdNews onderzoek aangetoond dat Facebook algoritme-gedreven gemiddeld 357 interesses per gebruiker toewijst, waarvan 134 als ‘accuraat’ werden beoordeeld.

Hoge Interesse Niveaus

De auteurs van het nieuwe artikel testten hun aannamen op zichzelf, door een Facebook-advertentiecampagne te creëren die was ontworpen om de auteurs te ‘nanotargeten’ uit een potentieel publiek van 1,5 miljard Facebook-gebruikers, op basis van een willekeurige reeks doelinteresses; de advertenties werden met succes en exclusief aan de doelen geleverd waar hogere aantallen van de willekeurig gekozen interesses werden overwogen (zie resultaten tabel naar het einde van het artikel).

De onderzoekers schatten dat een individu kan worden geïdentificeerd en getarget, op basis van alleen hun interesses, met 90% nauwkeurigheid, hoewel het aantal interesses dat nodig is varieert afhankelijk van hoe gewoon de interesses zijn:

‘Onze resultaten geven aan dat de 4 zeldzaamste [Facebook] interesses van een gebruiker hem uniek maken in de genoemde gebruikersbasis met een 90% waarschijnlijkheid. Als we in plaats daarvan een willekeurige selectie van interesses overwegen, dan zouden 22 interesses nodig zijn om een gebruiker uniek te maken met een 90% waarschijnlijkheid.’

De auteurs suggereren dat deze aanpak voor het precisie-targeten van vermeend gegeneraliseerde of semi-anonieme Facebook-gebruikerspublieken slechts ‘het topje van de ijsberg’ is in termen van het gebruik van non-PII-gegevens om recente inspanningen en initiatieven om gebruikersprivacy te beschermen in de nasleep van Cambridge Analytica.

Methodologie

Het onderzoek werd uitgevoerd op een dataset verzameld in januari 2017. Het jaar daarop verhoogde Facebook de minimum Potentiële Bereik groepsgrootte voor een advertentiecampagne van 20 naar 1000, maar de onderzoekers merken op dat dit advertentiecampagnes niet verhindert om groepen van minder dan 1000 te targeten, maar alleen om de daadwerkelijke grootte van het doelpubliek te kennen.

De onderzoekers merken ook op dat eerder onderzoek heeft aangetoond dat de 1000-gebruikerlimiet effectief kan worden verlaagd tot zo weinig als 100, en dat 100 gebruikers de kleinste doelgroep is die beschikbaar is voor diegenen die het werk willen reproduceren.

Echter, sinds de dataset werd samengesteld, heeft Facebook ‘Hele wereld’ toegevoegd als een potentieel vanggebied voor de campagne, wat betekent dat de onderzoekers hun hypothese hebben bewezen onder aanvullende beperkingen die niet langer bestaan (ze moesten in plaats daarvan een gefilterde locatiedoel instellen, inclusief de 50 landen waar Facebook de grootste gebruikersbasis heeft, wat resulteerde in een potentieel publiek van 1,5 miljard gebruikers).

Gegevens

De gegevens werden verkregen uit een corpus van 2.390 echte Facebook-gebruikers die de FDVT browser extensie (zie afbeelding hieronder en video aan het einde van het artikel) hadden geïnstalleerd vóór januari 2017, alle vrijwilligers. De extensie biedt gebruikers een real-time schatting van de inkomsten die hun browse-activiteiten voor Facebook genereren, op basis van PII- en demografische gegevens die de vrijwilligers hebben ingestemd om te delen met de onderzoekers.

De FDVT browser-extensie van de onderzoekers geeft de aangemelde Facebook-gebruiker een stroom van informatie over de privacyaspecten en winstgevendheid (voor Facebook) van de browse-activiteiten van de gebruiker. Bron: https://www.youtube.com/watch?v=Gb6mwJqHhCI

De onderzoekers verkregen 1,5 miljoen datapunten uit 99.000 unieke Facebook-interesses die waren geassocieerd met de deelnemers, die een mediaan van 426 geregistreerde interesses hadden.

De onderzoekers berekenden vervolgens een formule om het minimum aantal interesses vast te stellen dat nodig is om nanotargeting op een individu uit te voeren, en stelden vast dat slechts 4 ‘marginale’ interesses nodig zijn, en dat de aanvalsprobabiliteit toeneemt naarmate de interesses meer gespecialiseerd en minder representatief zijn voor brede interestrends.

Voor ‘willekeurige interesses’ – interesses die willekeurig zijn getrokken uit de pool van alle beschikbare interestcategorieën – schatte de formule dat ’12, 18, 22 en 27 willekeurige interesses een gebruiker uniek maken op Facebook met een waarschijnlijkheid van 50%, 80%, 90% en 95%, respectievelijk’.

Resultaten van de modellen van de onderzoekers, waarin het aantal interesses wordt berekend dat nodig is om een gebruiker te individualiseren onder verschillende beperkingen. Bron: https://arxiv.org/pdf/2110.06636.pdf

Nanotargeting Test

De auteurs creëerden gerichte advertentiecampagnes die waren gericht op zichzelf met behulp van willekeurige sets van interesses die waren toegewezen door de Facebook-advertentie-interface. Hoewel nauwkeurigere resultaten hadden kunnen worden verkregen door ‘marginale’ interesses in te stellen, gaven de auteurs de voorkeur aan het bewijzen van de brede toepasbaarheid van de theorie, in plaats van ‘vals te spelen’ door te focussen op hyper-specifieke interesses.

In de rechterbenedenhoek worden het aantal interesses dat de advertentie aandrijft, weergegeven in de FDVT-interface.

Met behulp van verschillende criteria, waaronder momentopnames van de ‘Waarom zie ik deze advertentie?’-melding die wordt weergegeven met Facebook-advertenties, stelden de auteurs criteria voor succes vast in termen van het exclusief leveren van een advertentie aan de doelgroep op basis van hun interesses alleen. ‘Mislukking’ werd gedefinieerd door gevallen waarin de advertentie niet alleen aan de auteur werd getoond, maar ook aan andere lezers.

Negen van de 21 campagnes die werden uitgevoerd, met variabele aantallen interesses als doelcriteria, hebben met succes de bedoelde ontvanger van de advertentie ‘monotarget’, met een toenemend succespercentage naarmate het aantal interesses dat werd geïdentificeerd (en met inachtneming van het feit dat ‘willekeurige’ interesses werden gebruikt om deze resultaten te verkrijgen, en niet gecureerde en gebruikersspecifieke interesses).

Resultaten van de nanotargeting-experiment voor de drie bijdragende auteurs van het artikel, die allemaal ten minste twee nanotargeted advertenties exclusief ontvingen. Meerdere indrukken voor een succesvolle nanotargeting zijn het resultaat van het meerdere keren weergeven van de advertentie aan de doelgroep over paginaweergaven, en niet een indicatie dat iemand anders de advertentie zag.

De auteurs erkennen dat de hoge kosten van manipulatieve Facebook-advertentiecampagnes dit soort aanval kunnen maken niet haalbaar. Echter, het blijkt dat de kosten minimaal waren:

‘Helaas tonen de resultaten die zijn geëxtraheerd uit de [Facebook] Advertentiecampagne Manager aan dat nanotargeting van een gebruiker vrij goedkoop is. Inderdaad was de totale kosten van de 9 succesvolle nanotargeting-campagnes slechts 0,12€. Verbazingwekkend genoeg heeft Facebook ons niets in rekening gebracht voor drie van de succesvolle nanotargeting-campagnes die slechts één advertentie-impressie aan de doelgroep leverden.

‘Dus, in plaats van een ontmoedigende factor, kan de extreem lage kosten van nanotargeting aanvallers aanmoedigen om deze praktijk te gebruiken.’

Facebook ‘Bescherming’ Omzeilen

Het artikel merkt op dat Facebooks advertentiediensten ‘minimum lijstgroottes’ hebben die een gebruiker kan targeten, waardoor het technisch onmogelijk is om een specifiek individu als doel voor een advertentiecampagne te uploaden. Echter, de auteurs merken op dat deze beperkingen gemakkelijk te omzeilen zijn.

Om bijvoorbeeld te vermelden, rapporteerde een CEO in 2017 hoe hij een potentiële werknemer van een ander bedrijf kon werven door een Facebook-campagne te organiseren die alleen op die doelgroep was gericht, een man. Dit hield in dat Facebooks minimumcriteria (30) werden vervuld door een lijst van 29 vrouwen en één man (de doelgroep) te uploaden, en vervolgens ‘Man’ te selecteren als leveringscriterium.

Het artikel stelt dat Facebooks beperkingen, hoewel later bijgewerkt, onvolmaakt worden afgedwongen en inconsistent zijn. Terwijl de resultaten van een eerder artikel de sociale mediagigant dwongen om configuratie van minder dan 20 in hun Advertentiecampagne Manager niet langer toe te staan, betwisten de auteurs de effectiviteit van de beleidswijziging, en stellen dat ‘Ons onderzoek aantoont dat deze limiet momenteel niet wordt toegepast’.

Valse Indrukken

Naast de algemene culturele backlash van de Cambridge Analytica-schandalen, die een onwillige verandering teweegbrachten bij advertentiegiants als Google, ondermijnt nanotargeting van advertenties het alledaagse begrip dat advertentiecultuur ‘algemene’ cultuur is, gedeeld, als het niet door iedereen, dan ten minste door een brede demografische of geografische groep.

De auteurs van het artikel merken een aantal gevallen op waarin nanotargeting op een misleidende manier werd gebruikt, waaronder de tijd in 2017 toen de Britse Labour-politicus Jeremy Corbyn, destijds leider van de regeringsoppositie, bepaalde dat Labour een Facebook-advertentiecampagne moest uitvoeren om kiezersaanmelding aan te moedigen.

Labour-partijleiders keurden het idee af, maar in plaats van in conflict te gaan, voerden ze een £5000-advertentiecampagne uit die was ontworpen om alleen Corbyn en zijn medewerkers te targeten, evenals een select aantal sympathiserende journalisten. Niemand anders zag die advertenties.

De auteurs stellen:

‘[Nanotargeting] kan effectief worden gebruikt om een gebruiker te manipuleren om hem te overtuigen om een product te kopen of om hem te overtuigen om van mening te veranderen over een bepaald onderwerp. Bovendien kan nanotargeting worden gebruikt om een valse perceptie te creëren waarin de gebruiker wordt blootgesteld aan een realiteit die verschilt van wat de rest van de gebruikers ziet (zoals in het geval van Corbyn). Ten slotte kan nanotargeting worden gebruikt om andere schadelijke praktijken te implementeren, zoals afpersing.’

Zij concluderen:

‘Ten slotte is het de moeite waard om op te merken dat ons werk slechts het topje van de ijsberg heeft onthuld over hoe non-PII-gegevens kunnen worden gebruikt voor nanotargeting-doelen. Ons werk is uitsluitend gebaseerd op gebruikersinteresses, maar een advertentiecampagne kan andere beschikbare socio-demografische parameters gebruiken om doelgroepen te configureren in de [Facebook] Advertentie Manager, zoals de thuislocatie (land, stad, postcode, enz.), werkplek, college, aantal kinderen, mobiel apparaat dat wordt gebruikt (iOS, Android), enz., om snel de doelgroepgrootte te verkleinen tot nanotargeting van een gebruiker.’