Tekoälymalli voi tunnistaa disinformaation levittäjät ennen kuin he toimivat

Tekoälymalli, jonka tutkijat Sheffieldin yliopistosta ovat luoneet, voi mahdollisesti määrittää, mitkä Twitterin käyttäjät julkaisevat disinformaatiota ennen kuin he tekevät niin. Jos malli osoittautuu luotettavaksi, sitä voidaan käyttää täydentämään olemassa olevia disinformaation torjuntamenetelmiä sosiaalisessa mediassa.

TechXploren mukaan tutkimuksen johtivat Sheffieldin yliopiston tietojenkäsittelytieteen laitoksen tutkijat, mukaan lukien Dr. Nikos Aletras ja Yida Mu. Tutkimus julkaistiin PeerJ -lehdessä, ja siinä kuvataan menetelmiä, joita käytettiin ennustamaan, onko sosiaalisen median käyttäjä todennäköisesti jakamaan disinformaatiota epäluotettavista uutislähteistä.

Tutkimusryhmä keräsi yli 1 miljoonan Twitter-viestin yli 6000 Twitter-käyttäjältä, jotka olivat kaikki julkisia. Ryhmä sovelsi luonnollisen kielen prosessointitekniikoita valmistelemaan dataa tekoälymallin koulutukseen. Tekoälymalli oli binäärluokittelumalli, joka merkitsi käyttäjiä todennäköisiksi jakamaan tietoa epäluotettavista lähteistä tai ei-todennäköisiksi. Kun malli oli koulutettu, se saavutti noin 79,7 prosentin luokittelutarkkuuden.

Kun tutkijat analysoivat mallin suorituskykyä, he löysivät, että käyttäjät, jotka käyttivät runsaasti epäkohteliaita kieltä ja twiittasivat jatkuvasti uskonnosta ja politiikasta, olivat todennäköisemmin julkaisemaan tietoa epäluotettavista lähteistä. Erityisesti he käyttivät sanoja kuten “liberaali”, “media”, “hallitus”, “Israel” ja “islam”. Sen sijaan käyttäjät, jotka julkaisivat tietoa luotettavista lähteistä, käyttivät sanoja kuten “I’ll”, “gonna”, “wanna”, “mood”, “excited” ja “syntymäpäivä”. He jakavat myös tarinoita henkilökohtaisista elämistään, kuten ystävien kanssa tapaamisista, tunteistaan tai harrastuksistaan.

Tutkimuksen tulokset voivat auttaa sosiaalisen median yhtiöitä, kuten Facebookia, Redditia ja Twitteriä, kehittämään uusia keinoja disinformaation leviämisen torjumiseksi verkossa. Tutkimus voi myös auttaa psykologeja ja sosiaalitutkijoita ymmärtämään paremmin käyttäytymistä, joka johtaa disinformaation laajaan leviämiseen sosiaalisessa verkostossa.

Aletrasin mukaan TechXploren mukaan sosiaalinen media on muuttunut yhdeksi tärkeimmistä tavoista, joilla ihmiset saavat uutisensa. Miljoonat käyttäjät ympäri maailmaa saavat uutisensa Facebookin ja Twitterin kautta joka päivä, mutta nämä alustat ovat myös muuttuneet disinformaation leviämisen välineiksi yhteiskunnassa. Aletras jatkoi selittämällä, että luotettavien käyttäjäkäyttäytymisen trendien tunnistaminen voi auttaa disinformaation torjunnassa. Aletras selitti, että yhteys epäkohtelisen kielen käytön ja epäluotettavan sisällön leviämisen välillä voidaan attribuoida korkeaan verkkopolitiikkaan.

Mun mukaan käyttäjien käyttäytymisen analysointi, jotka jakavat epäluotettavaa tietoa, voi auttaa sosiaalisen median alustoja täydentämällä olemassa olevia faktantarkistusmenetelmiä ja mallintamalla disinformaatiota käyttäjätasolla. Mun mukaan TechXploren mukaan

“Käyttäjien käyttäytymisen tutkiminen ja analysointi, jotka jakavat sisältöä epäluotettavista uutislähteistä, voi auttaa sosiaalisen median alustoja estämään disinformaation leviämistä käyttäjätasolla, täydentämällä olemassa olevia faktantarkistusmenetelmiä, jotka toimivat viestin tai uutislähteen tasolla.”

Aletrasin ja Mun tutkimus voi olla esimerkki siitä, miten tekoälyä voidaan käyttää disinformaation torjunnassa, jota tekoäly on itse luonut. Viime kuukausina on nähty disinformaation lisääntymistä paikallisissa ja kansallisissa politiikassa, ja suurin osa sisällöstä on luonut ja levittänyt tekoälyalgoritmit. Syvät neuroniverkot on käytetty luomaan realistisia valokuvia ja profiileja väärille tileille, jotka toimivat disinformaation levittäjinä. Aletrasin ja Mun tutkimus voi auttaa sosiaalisen median yhtiöitä tunnistamaan, mitkä tilet ovat väärä, bot-tilit, jotka on luonut disinformaation ja haitallisen propagandan leviyttämiseksi. Tekoälymalli voi auttaa sosiaalisen median yhtiöitä tunnistamaan, mitkä tilet ovat disinformaation levittäjiä, ennen kuin ne toimivat.