AI-model kan identificere spredere af desinformation før de handler

En AI-model udviklet af forskere fra University of Sheffield kan potentielt bestemme, hvilke brugere af Twitter vil poste desinformation før de faktisk gør det. Hvis modellen viser sig at være pålidelig, kan den bruges til at supplere eksisterende metoder til at bekæmpe desinformation på sociale medier.

Ifølge TechXplore, var studiet ledet af forskere fra University of Sheffield’s Department of Computer Science, herunder Dr. Nikos Aletras og Yida Mu. Studiet blev offentliggjort i tidsskriftet PeerJ og beskriver metoderne, der blev brugt til at forudsige, om en bruger af sociale medier er sandsynligvis vil sprede desinformation ved at poste indhold fra upålidelige nyhetskilder.

Forskningsholdet samlede over 1 million tweets fra over 6000 Twitter-brugere, alle offentligt tilgængelige. Holdet anvendte teknikker til naturlig sprogbehandling for at gøre dataene klar til træning af en AI-model. AI-modellen var en binær klassifikationsmodel, der klassificerede brugere som sandsynligvis vil dele information fra upålidelige kilder eller ikke sandsynligvis vil dele information fra upålidelige kilder. Efter at modellen var trænet på dataene, kunne den opnå en klassifikationsnøjagtighed på ca. 79,7%.

Da forskerne analyserede resultaterne af modellens præstation, fandt de, at brugere, der brugte meget upassende sprog og konstant tweeted om religion og politik, var mere sandsynligvis at poste information fra upålidelige kilder. Specielt var der en stor brug af ord som “liberal”, “medier”, “regering”, “Israel” og “Islam”. Imens tendede brugere, der postede information fra pålidelige kilder, til at bruge ord som “jeg vil”, “ska”, “vil”, “stemning”, “glad” og “fødselsdag”. Ud over dette delte de typisk historier om deres personlige liv, såsom interaktioner med venner, deres følelser eller information om deres fritidsinteresser.

Studiets resultater kan hjælpe sociale medie-selskaber som Facebook (META ), Reddit og Twitter med at udvikle nye måder at bekæmpe spredningen af misinformation på nettet. Forskningen kan også hjælpe psykologer og samfundsvidenskabsfolk med at forstå det adfærdsmønster, der fører til den omfattende spredning af misinformation i et socialt netværk.

Som Aletras forklarede ifølge TechXplore, er sociale medier blevet en af de dominerende måder, hvorpå folk får deres nyheder på. Millioner af brugere verden over får deres nyhedsartikler gennem Facebook og Twitter hver dag, men disse platforme er også blevet værktøjer for at sprede desinformation i samfundet. Aletras gik videre med at forklare, at det at kunne identificere bestemte tendenser i brugeradfærd kan hjælpe med at begrænse desinformation. Som Aletras forklarede, var der en “korrelation mellem brugen af upassende sprog og spredningen af upålideligt indhold, der kan tilskrives høj online politisk fjendtlighed”.

Ifølge Mu kan analysen af adfærden hos brugere, der deler upålidelig information, hjælpe sociale medie-platforme med at supplere eksisterende faktatjek-metoder og model desinformation på brugerniveau. Som Mu sagde via TechXplore:

“At studere og analysere adfærden hos brugere, der deler indhold fra upålidelige nyhetskilder, kan hjælpe sociale medie-platforme med at forhindre spredningen af falske nyheder på brugerniveau, supplere eksisterende faktatjek-metoder, der fungerer på post- eller nyhetskildeniveau.”

Forskningen, der er udført af Aletras og Mu, kan være et eksempel på, hvordan AI kan bruges til at bekæmpe misinformation genereret af AI. De seneste måneder har set en stigning i desinformation omkring lokale og nationale politik, hvor meget af indholdet er genereret og spredt af AI-algoritmer. Dybe neurale netværk er blevet anvendt til at konstruere realistiske billeder af og profiler for falske konti, der fungerer som spredere af falske nyheder. Forskningen, som Aletras og Mu er engageret i, kan hjælpe sociale medie-selskaber med at afgøre, hvilke konti er falske, bot-konti oprettet med det formål at sprede skadelig propaganda og misinformation.