Hur Facebooks AI sprider missinformation och hotar demokratin

Dan Tunkelang som övervakade AI-forskning på LinkedIn, sa: “I samma ögonblick som rekommendationer har makten att påverka beslut, blir de ett mål för spammare, bedragare och andra människor med mindre ädla avsikter.”

Detta är den gordiska knuten som sociala mediebolag som Facebook upplever. Facebook använder implicit återkoppling för att spåra klick, visningar och andra mätbara användarbeteenden. Detta används för att utforma vad som identifieras som en “rekommendationsmotor”, ett AI-system som har den ultimata makten att bestämma vem som ser vilket innehåll och när.

Facebook har optimerat sin rekommendationsmotor för att maximera användarengagemang, som mäts av den tid som tillbringas på Facebook-plattformen. Maximera tiden har företräde framför alla andra variabler, inklusive kvaliteten eller precisionen på vad som rekommenderas.

Systemet är utformat för att belöna sensationella rubriker som engagerar användare genom att utnyttja kognitiva bias, även om dessa rubriker råkar vara skrivna av ryska troll med avsikt att dela samhället eller påverka politiska val.

Hur Facebook använder AI

Det finns en brist på medvetenhet om hur Facebook använder AI för att bestämma vad dess användare ser och interagerar med. Man måste först förstå vad bekräftelsebias är. Psychology Today beskriver detta som:

Bekräftelsebias är benägenheten att söka, tolka, gynna och komma ihåg information på ett sätt som bekräftar eller stöder ens tidigare övertygelser eller värderingar.

Facebook förstår att användare är mer benägna att klicka på nyheter som matar den mänskliga tendensen att söka bekräftelsebias. Detta skapar en farlig förebild för både spridningen av konspirationsteorier och för att skapa eko-kammare där användare matas med exklusivt vad de vill se, oavsett precision eller det samhälleliga inflytandet av vad som ses.

En studie av MIT kunde visa att falska nyheter på Twitter sprids 6 gånger snabbare än riktiga nyheter.

Detta betyder att både Twitter och Facebook kan vapenföras. Medan Twitter möjliggör att vem som helst kan följa flöden med snäva eller partiska perspektiv, tar Facebook detta ett steg längre. En användare på Facebook har för närvarande inget sätt att kontrollera eller mäta vad som ses, detta kontrolleras helt av Facebooks rekommendationsmotor, hur den mäter användarengagemang och hur den optimerar för detta engagemang.

Facebook försöker forma och förutsäga sina användares önskemål. Facebook uppskattar i vilken utsträckning en användare kommer att gilla eller ogilla en nyhetsartikel som inte ännu har upplevts av användaren. För att undvika en minskning av användarengagemang, väljer Facebook sedan att förbigå nyhetsartiklar som kan minska nivån på engagemanget och väljer istället att engagera användaren genom att mata nyhetsartiklar som matar bekräftelsebias, vilket säkerställer fler klick, kommentarer, gillanden och delningar.

Facebook använder också automatiserad samarbetsfiltrering av historiska användarhandlingar och åsikter för att automatiskt matcha deltagare (vänner) med liknande åsikter. Facebook använder en nyttofunktion som automatiskt och matematiskt förutsäger och rangordnar dina preferenser för artiklar som du vill se.

Detta orsakar att användare faller i en kaninhål, de är fångade i falska nyheter, matade med innehåll som förstärker deras bias. Innehållet som presenteras är i grunden utformat med målet att påverka vad du klickar på. Om du tror på konspirationen att Bill Gates försöker mikrochipa den mänskliga befolkningen med hjälp av vaccin, varför ska Facebook presentera dig med motsägande bevis som kan få dig att avbryta engagemanget med plattformen? Om du stöder en viss politisk kandidat, varför ska Facebook erbjuda nyheter som kan motsäga dina positiva åsikter om samma kandidat?

Som om detta inte vore tillräckligt, engagerar Facebook också vad som kallas “social bevis”. Socialt bevis är konceptet att människor kommer att följa massans handlingar. Idén är att eftersom så många andra människor beter sig på ett visst sätt, måste det vara det rätta beteendet.

Facebook tillhandahåller detta sociala bevis i form av gillanden, kommentarer eller delningar. Eftersom endast vissa vänner kan se nyhetsflödesartikeln (om de inte specifikt söker en användares nyhetsflöde), tjänar det sociala beviset bara till att förstärka bekräftelsebias.

Facebook använder också filterbubblor för att begränsa exponeringen för motsägande, motsägande och utmanande perspektiv.

Facebook-annonser

Omedvetna Facebook-användare kan klicka på annonser utan att vara medvetna om att de presenteras med annonser. Anledningen till detta är enkel, om det finns en annons, ser bara den första personen som presenteras med annonsen annonsen. Om den användaren delar annonsen, ser alla på deras vänlista bara “dela” som en nyhetsflödesartikel, eftersom Facebook avsiktligt droppar annonsen. Omedelbart släpper användarna sin vakt, de kan inte skilja mellan vad som är en annons och vad som skulle ha dykt upp organiskt på deras nyhetsflöde.

Facebook-delningar

Tyvärr blir saker värre. Om en användare har 1000 vänner som samtidigt delar innehåll, kommer rekommendationsmotorn att prioritera innehåll från minoriteten som delar samma åsikter, även om dessa ofta består av obestyrkta konspirationsteorier. Användaren kommer sedan att vara under intrycket att dessa nyhetsflödesartiklar ses av alla. Genom att engagera sig i detta nyhetsflöde, optimerar dessa användare varandras sociala bevis.

Om en användare försöker upplysa en annan användare om en vilseledande eller falsk artikel, orsakar själva handlingen att kommentera eller engagera sig i nyhetsflödet bara en ökning av den ursprungliga användarens engagemangstid. Denna återkopplingsloop orsakar att Facebook förstärker engagemanget med den användaren med ytterligare falska nyheter.

Detta orsakar en eko-kammare, en filterbubbla där en användare tränas att bara tro på vad de ser. Sanningen är bara en illusion.

Allvaret i frågan

Över 10 miljoner människor engagerade sig i ett nyhetsflöde som påstod att påven Franciskus kom ut till stöd för Trumps val 2016. Det fanns inga bevis för detta, det var bara en falsk nyhetsartikel som kom från Ryssland, men detta var den mest delade nyhetsartikeln på Facebook under de tre månader som ledde upp till valet 2016.

Nyhetsartikeln genererades av en rysk trollfabrik som kallar sig “Internet Research Agency”. Denna organisation var ansvarig för att främja och dela på Twitter och Facebook rasistiska artiklar, till stöd för att demonisera Black Lives Matter och vapenförande falska nyhetsartiklar som spred falska påståenden om amerikanska politiker.

Utvalda kommittén för underrättelsetjänster släppte en 85-sidors rapport som detaljerade ryska aktiva åtgärder och ingripanden, där större delen bestod av spridning av splittrande falska nyheter och propaganda som hade det enda syftet att påverka valet 2016 i USA.

I rask takt fram till valet 2020 har problemet bara förvärrats. I september 2020, efter en FBI-tip, avslutade Facebook och Twitter sociala mediekonton för en nyhetsorganisation som gick under namnet PeaceData, som är kopplad till Rysslands statliga propagandainsatser.

Tyvärr är att stänga av konton en tillfällig och ineffektiv lösning. Ryska konton kan ta formen av vänförfrågningar, ofta förföriska kvinnor med attraktiva profiler som riktar sig till män, eller så kan de vara kapade användarkonton med en historia av regelbundna inlägg. Dessa kapade konton skiftar långsamt till mer politiska inlägg, tills de domineras av propaganda eller konspirationsteorier.

En omedveten användare kan vara omedveten om att en vän har blivit komprometterad. Om den användaren är sårbar för konspirationsteorier kan de engagera sig i den falska nyhetsartikeln, den ryska trollet som ofta är en bot, sedan tillhandahåller ytterligare socialt bevis i form av gillanden eller kommentarer.

Sårbara användare är ofta de som minst förstår hur teknik och AI fungerar. Den över 65-åriga befolkningen, som är den befolkning som sannolikt kommer att rösta, är också den som sannolikt kommer att sprida falska nyheter, som rapporterats av New York Times.

Enligt studien publicerade Facebook-användare i åldern 65 och äldre sju gånger fler artiklar från falska nyhetswebbplatser än vuxna i åldern 29 och yngre. En brist på digitala mediekompetenser har denna åldersgrupp oförberedd på ett nyhetsflöde som inte är grundat i fakta eller precision, utan exklusivt på användarengagemang.

Dåliga aktörer utnyttjar Facebooks rekommendationsmotor som utnyttjar våra kognitiva bias mot oss. Dessa organisationer har optimerat missbruket av Facebooks AI för att sprida konspirationsteorier och propaganda. Konspirationsteorier som kan verka oskyldiga från början, används ofta som kanaler till vit supremacism, högerextrem nationalism eller QAnon en bisarr konspirationsteori som involverar Trump som försöker rädda världen från liberala pedofiler, en konspiration som har noll grund i verkligheten.

Sammanfattning

Facebook är tydligt medvetet om att det finns ett problem och de har offentligt tillkännagett en strategi som fokuserar på att ta bort innehåll som bryter mot Facebooks communitystandarder. Problemet är att ta bort konton är en tillfällig lösning som är ineffektiv när konton genereras i bulk av botar eller masshacking av användarkonton. Det löser inte heller problemet att de flesta delningar görs av vanliga användare som är omedvetna om att de sprider missinformation.

Lägga till varningsetiketter tjänar bara till att förstärka konspirationsteorier att sociala mediejättar är partiska mot konservativa, som är de mest sårbara för falska nyheter.

Lösningen måste vara en ny rekommendationsmotor som inte bara mäter användarengagemang, utan är optimerad för användarlycka genom att leverera sanning och främja förbättrad självmedvetenhet.

I mellantiden bör Facebook följa den väg som Twitter tog för att förbjuda politiska annonser.

Slutligen måste en viktig fråga ställas. Om människor inte längre har ett val om de nyheter de ser, när slutar det att vara en rekommendation och när blir det tankestyrning?

Rekommenderad läsning:

Ryska aktiva åtgärder och ingripanden – Rapport av utvalda kommittén för underrättelsetjänster i USA:s senat.

Den chockerande rapporten som förutspår slutet för demokratin – Av Rick Shenkman, grundare av George Washington Universitys History News Network.

Äldre människor delar falska nyheter på Facebook mer – Av New York Times