AI-modell kan identifisere desinformasjonsutbredere før de handler

En AI-modell utviklet av forskere fra University of Sheffield kan potensielt bestemme hvilke Twitter-brukere som vil publisere desinformasjon før de faktisk gjør det. Hvis modellen viser seg å være pålitelig, kan den brukes til å supplere eksisterende metoder for å bekjempe desinformasjon på sosiale medier.

Ifølge TechXplore, studien ble ledet av forskere fra University of Sheffield’s Department of Computer Science, inkludert Dr. Nikos Aletras og Yida Mu. Studien ble publisert i tidsskriftet PeerJ og detaljerer metodene som ble brukt til å forutsi om en sosiale mediebruker sannsynligvis vil spre desinformasjon ved å publisere innhold fra upålitelige nyhetskilder.

Forskningsgruppen samlet inn over 1 million tweets fra over 6000 Twitter-brukere, alle offentlig tilgjengelige. Gruppen anvendte tekniker for naturlig språkbehandling for å gjøre dataene klare for trening av en AI-modell. AI-modellen var en binær klassifiseringsmodell, som merket brukerne som sannsynlig å dele informasjon fra upålitelige kilder eller ikke sannsynlig å gjøre det. Etter at modellen var trenet på dataene, klarte den å oppnå omtrent 79,7% klassifiseringsnøyaktighet.

Når forskerne analyserte resultater fra modellens ytelse, fant de at brukere som ofte brukte upassende språk og konstant tweetet om religion og politikk, var mer sannsynlig å publisere informasjon fra upålitelige kilder. Spesielt var det stor bruk av ord som “liberal”, “media”, “regjering”, “Israel” og “Islam”. Samtidig tenderer brukere som publiserer informasjon fra pålitelige kilder å bruke ord som “jeg vil”, “skal”, “vil”, “humør”, “spændt” og “fødselsdag”. Ut over dette deler de vanligvis historier om deres personlige liv, som interaksjoner med venner, deres følelser eller informasjon om deres hobbyer.

Studiens funn kan hjelpe sosiale medieselskaper som Facebook (META ), Reddit og Twitter med å utvikle nye måter å bekjempe spredning av misinformasjon på nettet. Forskningen kan også hjelpe psykologer og sosialforskere bedre å forstå atferden som fører til spredning av misinformasjon gjennom et sosialt nettverk.

Som Aletras forklarte ifølge TechXplore, har sosiale medier blitt en av de dominerende måtene mennesker får nyheter på. Millioner av brukere verden over får nyheter gjennom Facebook og Twitter hver dag, men disse plattformene har også blitt verktøy for å spre desinformasjon i samfunnet. Aletras gikk videre og forklarte at pålitelig identifisering av bestemte trender i brukeratferd kan hjelpe med å begrense desinformasjon. Som Aletras forklarte, kan korrelasjonen mellom bruk av upassende språk og spredning av upålitelig innhold tilskrives høy politisk fiendtlighet på nettet.

Ifølge Mu kan analyse av atferden til brukere som deler upålitelig informasjon, hjelpe sosiale medieplattformer med å forebygge spredning av feilaktig informasjon på brukernivå, og supplere eksisterende faktasjekkmekanismer som fungerer på innlegg- eller nyhetskildevnivå. Som Mu sa via TechXplore:

“Studier og analyse av atferden til brukere som deler innhold fra upålitelige nyhetskilder, kan hjelpe sosiale medieplattformer med å forebygge spredning av feilaktig informasjon på brukernivå, og supplere eksisterende faktasjekkmekanismer som fungerer på innlegg- eller nyhetskildevnivå.”

Forskningen utført av Aletras og Mu kan være et eksempel på å bruke AI til å bekjempe misinformasjon generert av AI. De siste månedene har sett en økning i misinformasjon om lokal og nasjonal politikk, med mye av innholdet generert og spredt av AI-algoritmer. Dybe neurale nettverk har blitt brukt til å konstruere realistiske fotografier og profiler for feilaktige kontoer som fungerer som spredere av feilaktig informasjon. Forskningen Aletras og Mu er engasjert i, kan hjelpe sosiale medieselskaper med å finne ut hvilke kontoer som er feilaktige, botkontoer som er opprettet med formålet å spre skadelig propaganda og misinformasjon.