AI-model kan desinformatieverspreiders identificeren voordat ze actie ondernemen

Een AI-model dat is ontwikkeld door onderzoekers van de University of Sheffield, kan mogelijk bepalen welke Twitter-gebruikers desinformatie zullen plaatsen voordat ze dat daadwerkelijk doen. Als het model betrouwbaar blijkt te zijn, kan het worden gebruikt om bestaande methoden voor het bestrijden van desinformatie op sociale media aan te vullen.

Volgens TechXplore werd de studie geleid door onderzoekers van de afdeling Computer Science van de University of Sheffield, waaronder Dr. Nikos Aletras en Yida Mu. De studie werd gepubliceerd in het tijdschrift PeerJ en beschrijft de methoden die werden gebruikt om te voorspellen of een sociale media-gebruiker waarschijnlijk is om desinformatie te verspreiden door inhoud te plaatsen van onbetrouwbare nieuwsbronnen.

Het onderzoeksteam verzamelde meer dan 1 miljoen tweets van meer dan 6000 Twitter-gebruikers, allemaal openbaar beschikbaar. Het team paste natuurlijke taalverwerkingstechnieken toe om de gegevens voor te bereiden voor de training van een AI-model. De AI was een binaire classificatiemodel, waarbij gebruikers werden gelabeld als waarschijnlijk om informatie te delen van onbetrouwbare bronnen of niet waarschijnlijk om dat te doen. Nadat het model was getraind op de gegevens, kon het ongeveer 79,7% classificatie-accuraatheid bereiken.

Toen de onderzoekers de resultaten van de prestaties van het model analyseerden, vonden ze dat gebruikers die veel onbeleefde taal gebruikten en constant tweets over religie en politiek plaatsten, meer waarschijnlijk waren om informatie te plaatsen van onbetrouwbare bronnen. In het bijzonder was er een zware gebruik van woorden zoals “liberaal”, “media”, “regering”, “Israël” en “islam”. Intussen plaatsten gebruikers die informatie deelden van betrouwbare bronnen, vaak woorden zoals “ik zal”, “gaan”, “willen”, “stemming”, “opgewonden” en “verjaardag”. Bovendien deelden ze meestal verhalen over hun persoonlijke leven, zoals interacties met vrienden, hun emoties of informatie over hun hobby’s.

De bevindingen van de studie kunnen sociale media-bedrijven zoals Facebook (META ), Reddit en Twitter helpen om nieuwe manieren te ontwikkelen om de verspreiding van misinformatie online te bestrijden. Het onderzoek kan ook helpen om psychologen en sociaal wetenschappers beter te begrijpen welk gedrag leidt tot de wijdverspreide verspreiding van misinformatie in een sociaal netwerk.

Volgens Aletras, zoals gerapporteerd door TechXplore, is sociale media getransformeerd in een van de meest voorkomende manieren waarop mensen hun nieuws krijgen. Miljoenen gebruikers over de hele wereld krijgen hun nieuwsverhalen via Facebook en Twitter elke dag, maar deze platforms zijn ook tools geworden voor het verspreiden van desinformatie in de samenleving. Aletras legde verder uit dat het betrouwbaar identificeren van bepaalde trends in gebruikersgedrag kan helpen om desinformatie te beteugelen. Volgens Aletras was er een “correlatie tussen het gebruik van onbeleefde taal en de verspreiding van onbetrouwbare inhoud, die kan worden toegeschreven aan hoge online politieke vijandigheid”.

Volgens Mu kan het analyseren van het gedrag van gebruikers die onbetrouwbare informatie delen, sociale media-platforms helpen door bestaande feitcontrole-methoden aan te vullen en desinformatie te modelleren op gebruikersniveau. Zoals Mu zei via TechXplore:

“Het bestuderen en analyseren van het gedrag van gebruikers die inhoud delen van onbetrouwbare nieuwsbronnen, kan sociale media-platforms helpen om de verspreiding van nepnieuws te voorkomen op gebruikersniveau, door bestaande feitcontrole-methoden aan te vullen die werken op post- of nieuwsbron-niveau.”

Het onderzoek dat door Aletras en Mu is uitgevoerd, kan een voorbeeld zijn van het gebruik van AI om misinformatie te bestrijden die is gegenereerd door AI. De afgelopen maanden hebben een toename gezien in desinformatie over lokale en nationale politiek, waarvan een groot deel van de inhoud is gegenereerd en verspreid door AI-algoritmes. Diepe neurale netwerken zijn gebruikt om realistische foto’s en profielen te construeren voor nep-accounts die dienen als verspreiders van nepnieuws. Het onderzoek van Aletras en Mu kan sociale media-bedrijven helpen om te bepalen welke accounts nep zijn, bot-accounts die zijn gemaakt met het doel om schadelijke propaganda en misinformatie te verspreiden.