Hvordan Facebooks AI spreder misinformation og true demokratiets grundlag

Dan Tunkelang, der tidligere havde ansvar for AI-forskning på LinkedIn, udtalte: “Det øjeblik, anbefalinger har magten til at påvirke beslutninger, bliver de et mål for spammere, svindlere og andre personer med mindre noble motiver.”

Dette er den dilemma, som sociale medie-selskaber som Facebook står overfor. Facebook bruger implicit feedback til at spore klik, visninger og andre målbare brugeradfærd. Dette bruges til at designe, hvad der kendes som en “anbefalingsmotor”, et AI-system, der har den ultimative magt til at bestemme, hvem der ser hvad indhold og hvornår.

Facebook har optimeret deres anbefalingsmotor til at maksimere brugerengagement, der måles ved den tid, der tilbringes på Facebook-platformen. Maksimering af tid har prioritet over alle andre variabler, herunder kvaliteten eller nøjagtigheden af, hvad der anbefales.

Systemet er designet til at belønne sensationelle overskrifter, der engagerer brugere ved at udnytte kognitive bias, selvom disse overskrifter måske er skrevet af russiske trolde med det formål at splitte samfundet eller påvirke politiske valg.

Hvordan Facebook bruger AI

Der er en mangel på bevidsthed om, hvordan Facebook bruger AI til at bestemme, hvad brugerne ser og interagerer med. Man skal først forstå, hvad confirmation bias er. Psychology Today beskriver dette som:

Confirmation bias er tendensen til at søge efter, fortolke, favorisere og huske informationer på en måde, der bekræfter eller støtter ens tidligere overbevisninger eller værdier.

Facebook forstår, at brugere er mere tilbøjelige til at klikke på nyheder, der føder ind i den menneskelige tendens til at søge confirmation bias. Dette sætter en farlig præcedens for både spredningen af konspirationsteorier og for at skabe ekko-kamre, hvor brugere bliver fodret med eksklusivt, hvad de vil se, uanset nøjagtighed eller det samfundsmæssige indflydelse af, hvad der ses.

En studie fra MIT kunne demonstrere, at falske nyheder på Twitter spreder sig 6 gange hurtigere end rigtige nyheder.

Dette betyder, at både Twitter og Facebook kan væbnes. Mens Twitter giver mulighed for, at alle kan følge feeds med snævre eller partiske synspunkter, tager Facebook dette et skridt videre. En bruger på Facebook har i øjeblikket ingen mulighed for at kontrollere eller måle, hvad der ses, dette kontrolleres fuldstændigt af Facebooks anbefalingsmotor, hvordan den måler brugerengagement, og hvordan den optimerer for dette samme brugerengagement.

Facebook forsøger at forme og forudsige brugernes ønsker. Facebook estimerer, i hvilken udstrækning en bruger vil kunne lide eller ikke lide en nyhed, som brugeren endnu ikke har oplevet. For at undgå et tab i brugerengagement vælger Facebook herefter at omgå nyheder, der kan reducere engagementniveauet, og vælger i stedet at engagere brugeren ved at fodre nyheder, der føder ind i confirmation bias, hvilket sikrer flere klik, kommentarer, likes og delinger.

Facebook bruger også automatiseret samarbejdende filtrering af historiske brugerhandlinger og meninger til at automatisk matche deltagere (venner) med lignende meninger. Facebook bruger en utility-funktion, der automatisk og matematisk forudsiger og rangerer dine præferencer for elementer, du ønsker at se.

Dette får brugere til at falde i en kaninagtig hul, de er fanget i falske nyheder, der bliver fodret med indhold, der forstærker deres bias. Indholdet, der præsenteres, er i sig selv designet med det formål at påvirke, hvad du klikker på. Hvis du tror på konspirationsteorien om, at Bill Gates forsøger at mikrochippe den menneskelige befolkning ved at bruge vacciner, hvorfor skulle Facebook så præsentere dig med modsatrettede beviser, der kunne få dig til at frakoble dig fra platformen? Hvis du støtter en bestemt politisk kandidat, hvorfor skulle Facebook så tilbyde nyheder, der kunne modsige dine positive synspunkter på denne kandidat?

Som om dette ikke var nok, så bruger Facebook også, hvad der kendes som “social bevis”. Social bevis er konceptet, at mennesker vil følge handlingerne af masserne. Ideen er, at da så mange andre mennesker opfører sig på en bestemt måde, må det være den rigtige adfærd.

Facebook giver dette sociale bevis i konteksten af likes, kommentarer eller delinger. Da kun visse venner måske ser nyhedsfeed-elementet (medmindre de specifikt søger en brugers nyhedsfeed), tjener det sociale bevis kun til at forstærke confirmation bias.

Facebook bruger også filterbobler til at begrænse eksponeringen for modsatrettede, modsigende og udfordrende synspunkter.

Facebook-reklamer

Uvidende Facebook-brugere kan klikke på reklamer uden at være klar over, at de bliver præsenteret for reklamer. Årsagen til dette er simpel: Hvis der er en reklame, vil kun den første person, der ser reklamen, se reklameadvarslen. Hvis denne bruger deler reklamen, ser alle på vennelisten blot “delingen” som et nyhedsfeed-element, da Facebook bevidst dropper reklameadvarslen. Øjeblikkeligt sænker brugere deres vagtsomhed, de er ikke i stand til at skelne mellem, hvad der er en reklame, og hvad der ville være dukket op på deres nyhedsfeed af sig selv.

Facebook-delinger

Desværre bliver det værre. Hvis en bruger har 1000 venner, der samtidig deler indhold, vil anbefalingsmotoren prioritere indhold fra mindretallet, der deler de samme synspunkter, selvom disse ofte består af ubekræftede konspirationsteorier. Brugeren vil herefter være under illusionen om, at disse nyhedsfeed-elementer ses af alle. Ved at engagere sig i denne nyhedsfeed er disse brugere med til at optimere hinandens sociale bevis.

Hvis en bruger forsøger at oplyse en anden bruger om en misvisende eller falsk vare, vil selv handlingen med at kommentere eller engagere sig i nyhedsfeed-elementet blot øge den oprindelige brugers engagementstid. Denne feedback-løkke får Facebook til at forstærke engagement af denne bruger med yderligere falske nyheder.

Dette skaber en ekko-kammer, en filterboble, hvor en bruger trænes til kun at tro på, hvad de ser. Sandheden er blot en illusion.

Alvoren af problemet

Over 10 millioner mennesker engagerede sig i en nyhedsfeed, der hævdede, at pave Frans udtalte sig til fordel for Trumps valg i 2016. Der var intet belæg for dette, det var blot en falsk nyhedshistorie, der kom fra Rusland, og alligevel var dette den mest-delte nyhedshistorie på Facebook i de tre måneder op til valget i 2016.

Nyhedsartiklen blev genereret af en russisk trollefarm, der kalder sig “Internet Research Agency”. Denne organisation var ansvarlig for at fremme og dele på Twitter og Facebook race-baiting-artikler til fordel for at demonisere Black Lives Matter og våben-falske nyhedsartikler, der spredte falske påstande om amerikanske politikere.

Det udvalgte udvalg for efterretning offentliggjorde en 85-siders rapport, der detaljeret beskrev russiske aktive kampanjer og indgreb, hvoraf det meste bestod i spredning af splittende falske nyheder og propaganda, der havde det eneste formål at påvirke valget i 2016 i USA.

I 2020-valget er problemet blot intensiveret. I september 2020, efter en FBI-tip, lukkede Facebook og Twitter sociale medie-konti for en nyhedsorganisation, der kaldte sig PeaceData, der var knyttet til Ruslands statspropaganda-bestræbelser.

Desværre er lukning af konti en midlertidig og ineffektiv løsning. Russiske konti kan tage form af venneanmodninger, ofte forklejnet af kvinder med tiltrækkende profiler, der målretter mænd, eller også af hijackede brugerkonti med en historie af regelmæssige indlæg. Disse hijackede konti skifter langsomt til mere politiske indlæg, indtil de er domineret af propaganda eller konspirationsteorier.

En uvidende bruger kan være uvidende om, at en vennekonto er blevet kompromitteret. Hvis denne bruger er sårbar over for konspirationsteorier, kan de engagere sig i den falske nyhedsfeed-vare, og den russiske trolde, der ofte er en bot, kan herefter give yderligere sociale beviser i form af likes eller kommentarer.

Sårbarhed er ofte forbundet med brugere, der mindst forstår, hvordan teknologi og AI fungerer. Den over 65-årige befolkning, der er den mest sandsynlige til at stemme, er også den mest sandsynlige til at sprede falske nyheder, som rapporteret af New York Times.

Ifølge studiet delte Facebook-brugere i alderen 65 og ældre syv gange så mange artikler fra falske nyhedswebsites som voksne i alderen 29 og yngre. En mangel på digital medie-litteracitet gør, at denne aldersgruppe ikke er forberedt på en nyhedsfeed, der ikke er baseret på fakta eller nøjagtighed, men eksklusivt på brugerengagement.

Ondartede aktører udnytter Facebooks anbefalingsmotor, der udnytter vores kognitive bias imod os. Disse organisationer har optimeret misbrugen af Facebooks AI til at sprede konspirationsteorier og propaganda. Konspirationsteorier, der måske synes uskyldige at første, bruges ofte som kanaler til hvid overlegenhet, yderste højrefløj-nationalisme eller QAnon, en bisær konspirationsteori om, at Trump forsøger at redde verden fra liberale pædofiler, en konspiration, der har ingen basis i virkeligheden.

Resumé

Facebook er tydeligt klar over, at der er et problem, og de har offentligt annonceret en strategi, der fokuserer på at fjerne indhold, der krænker Facebooks fællesskabsstandarder. Problemet er, at sletning af konti er en midlertidig løsning, der er ineffektiv, når konti genereres i bulk af botter eller massivt hacking af brugerkonti. Det løser heller ikke problemet, at det meste af delingen er foretaget af almindelige brugere, der ikke er klar over, at de spreder misinformation.

Tilføjelse af advarselsmærker tjener kun til at forstærke konspirationsteorier om, at sociale medie-giganter er fordømte imod konservative, der er de mest sårbar over for falske nyheder.

Løsningen skal være en ny anbefalingsmotor, der ikke kun måler brugerengagement, men er optimeret til at måle brugerlykke ved at levere sandhed og fremme forbedret selvbevidsthed.

I mellemtiden burde Facebook følge den vej, som Twitter tog for at forbyde politiske reklamer.

Til sidst skal der stilles et vigtigt spørgsmål: Hvis folk ikke længere har valgmulighed for, hvilke nyheder de ser, hvornår ophører det med at være en anbefaling og hvornår bliver det til sindskontrol?

Anbefalet læsning:

Russiske aktive kampanjer og indgreb – Rapport fra det udvalgte udvalg for efterretning, USA’s Senat.

Den chokerende rapport, der forudsiger demokratiets afslutning – Af Rick Shenkman, grundlægger af George Washington Universitets Historie News Network.

Ældre mennesker deler falske nyheder på Facebook oftere – Af New York Times