AI-modell kan identifiera desinformationsutbredare innan de agerar

En AI-modell skapad av forskare från University of Sheffield kan potentiellt avgöra vilka Twitter-användare som kommer att publicera desinformation innan de faktiskt gör det. Om modellen visar sig vara tillförlitlig kan den användas för att komplettera befintliga metoder för att bekämpa desinformation på sociala medier.

Enligt TechXplore leddes studien av forskare från University of Sheffields datavetenskapsavdelning, inklusive Dr. Nikos Aletras och Yida Mu. Studien publicerades i tidskriften PeerJ och beskriver metoderna som användes för att förutsäga om en sociala medier-användare sannolikt kommer att sprida desinformation genom att publicera innehåll från opålitliga nyhetskällor.

Forskningsgruppen samlade in över 1 miljon tweets från över 6000 Twitter-användare, alla offentligt tillgängliga. Gruppen tillämpade tekniker för naturlig språkbehandling för att förbereda data för utbildning av en AI-modell. AI-modellen var en binär klassificeringsmodell som märkte användare som sannolikt att dela information från opålitliga källor eller inte sannolikt att göra det. Efter att modellen hade tränats på data kunde den uppnå ungefär 79,7% klassificeringsnoggrannhet.

När forskarna analyserade resultaten från modellens prestation fann de att användare som använde sig av oartig språk och konstant twittrade om religion och politik var mer benägna att publicera information från opålitliga källor. Särskilt fanns det en stor användning av ord som “liberal”, “media”, “regering”, “Israel” och “islam”. Samtidigt tenderade användare som publicerade information från pålitliga källor att använda ord som “jag ska”, “ska”, “vill”, “humör”, “upphetsad” och “födelsedag”. Utöver detta delade de vanligtvis historier om sitt personliga liv, såsom interaktioner med vänner, deras känslor eller information om deras fritidsintressen.

Studiens resultat kan hjälpa sociala mediebolag som Facebook (META ), Reddit och Twitter att utveckla nya sätt att bekämpa spridningen av missinformation online. Forskningen kan också hjälpa psykologer och samhällsvetare att bättre förstå beteendet som leder till den omfattande spridningen av missinformation i ett socialt nätverk.

Som Aletras förklarade enligt TechXplore har sociala medier förvandlats till en av de främsta sätten som människor får sina nyheter på. Miljontals användare runt om i världen får sina nyhetsartiklar via Facebook och Twitter varje dag, men dessa plattformar har också blivit verktyg för att sprida desinformation i samhället. Aletras gick vidare och förklarade att det finns en korrelation mellan användningen av oartig språk och spridningen av opålitligt innehåll som kan tillskrivas hög onlinepolitisk fientlighet.

Enligt Mu kan studier och analyser av beteendet hos användare som delar opålitlig information hjälpa sociala medieplattformar att komplettera befintliga faktakontrollmetoder och modellera desinformation på användarnivå. Som Mu sa via TechXplore:

“Att studera och analysera beteendet hos användare som delar innehåll från opålitliga nyhetskällor kan hjälpa sociala medieplattformar att förhindra spridningen av falska nyheter på användarnivå, komplettera befintliga faktakontrollmetoder som fungerar på post- eller nyhetskällnivå.”

Forskningen som utförts av Aletras och Mu kan vara ett exempel på att använda AI för att bekämpa missinformation som genereras av AI. De senaste månaderna har sett en ökning av desinformation om lokala och nationella politiska frågor, med mycket av innehållet genererat och spritt av AI-algoritmer. Djupa neurala nätverk har använts för att konstruera realistiska fotografier och profiler för falska konton som fungerar som spridare av falska nyheter. Forskningen som Aletras och Mu är engagerade i kan hjälpa sociala mediebolag att ta reda på vilka konton som är falska, botkonton skapade i syfte att sprida skadlig propaganda och missinformation.