Tilastollinen malli auttaa havaitsemaan väärää tietoa sosiaalisessa mediassa

Amerikkalaisen yliopiston matematiikan professori ja hänen tiiminsä kehittivät tilastollisen mallin, joka voi havaita väärää tietoa sosiaalisen median viesteissä.

Koneoppimista käytetään yhä enemmän väärän tiedon leviämisen estämiseen, mutta edelleen on suuri este, joka liittyy mustiin laatikoihin, jotka esiintyvät, kun tutkijat eivät ymmärrä, miten kone päätyy samaan päätökseen kuin ihmiskouluttajat.

Väärän tiedon havaitseminen tilastollisilla malleilla

AU:n matematiikan ja tilastotieteen apulaisprofessori Zois Boukouvalas käytti Twitterin tietojoukkoa, joka sisälsi väärää tietoa COVID-19:stä, osoittamaan, miten tilastolliset mallit voivat havaita väärää tietoa sosiaalisessa mediassa suurten tapahtumien aikana, kuten pandemian tai onnettomuuden aikana.

Boukouvalas ja hänen kollegansa, mukaan lukien AU:n opiskelija Caitlin Moroney ja tietojenkäsittelytieteen professori Nathalie Japkowicz, osoittivat, miten mallin päätökset ovat linjassa ihmisten kanssa uudessa tutkimuksessa.

“Haluaisimme tietää, mitä kone ajattelee, kun se tekee päätöksiä, ja miten ja miksi se on samaa mieltä ihmisten kanssa, jotka kouluttavat sitä”, Boukouvalas sanoi. “Emme halua estää jonkun sosiaalisen median tilin, koska malli tekee puolueellisen päätöksen.”

Tutkijoiden käyttämä menetelmä on tietynlainen koneoppiminen, joka perustuu tilastoihin. Tilastomallit ovat tehokkaita ja tarjoavat toisen tavan taistella väärää tietoa vastaan.

Malli saavutti korkean ennustusosuuden ja luokitteli 112 todellisen ja väärän tiedon sisältävän twiitin testijoukon lähes 90 prosentin tarkkuudella.

“Mikä on merkittävää tässä löydössä on, että mallimme saavutti tarkkuuden tarjoamalla samalla avoimuutta siitä, miten se havaitti twiitit, jotka olivat väärää tietoa”, Boukouvalas jatkoi. “Syvän oppimisen menetelmillä ei voida saavuttaa tällaista tarkkuutta avoimuudella.”

Mallin kouluttaminen ja valmistelu

Tutkijat valmistelivat mallin kouluttamista ennen sen testaamista tietojoukossa, koska ihmisten antama tieto voi sisältää puolueellisuutta ja mustia laatikoita.

Twiitit merkittiin tutkijoiden toimesta joko vääräksi tiedoksi tai tosiksi tiedoksi ennalta määritettyjen sääntöjen perusteella, jotka liittyvät kielenkäyttöön väärässä tiedossa.

Ennen mallin kouluttamista, sosiolingvistiikan professori Christine Mallinson Marylandin yliopistosta tunnisti twiitit kirjoitustyylejä, jotka liittyvät väärään tietoon, puolueellisuuteen ja vähemmän luotettaviin lähteisiin uutisissa.

“Kun lisäämme nämä syötteet malliin, se yrittää ymmärtää perustavat tekijät, jotka johtavat hyvän ja huonon tiedon erottamiseen”, Japkowicz sanoi. “Se oppii kontekstia ja miten sanat vuorovaikuttavat.”

Tutkijat aikovat parantaa mallin käyttöliittymää sekä sen kykyä havaita väärää tietoa sosiaalisen median viesteissä, jotka sisältävät kuvia tai muita multimedia-elementtejä.

Molemmat Boukouvalas ja Japkowicz sanovat, että ihmisen älykkyys ja uutisten lukutaito ovat avain väärän tiedon leviämisen estämiseen.

“Teemme työtä, jossa suunnittelemme työkaluja koneoppimisen perusteella varoittamaan ja kouluttamaan yleisöä poistamaan väärän tiedon, mutta uskomme vahvasti, että ihmiset tarvitsevat aktiivisen roolin väärän tiedon leviämisen estämisessä alusta alkaen”, Boukouvalas sanoi.