Tutkijat kehittivät AI-työkalun, joka auttaa havaitsemaan väärää tietoa

Uusi tekoälytyökalu on kehitetty, joka voi auttaa sosiaalisen median verkostoja ja uutisorganisaatioita merkitsemään väärät tarinat.

Työkalu kehitettiin Waterloon yliopistossa. Se perustuu syvän oppimisen tekoälyalgoritmeihin, jotta voidaan määrittää, pitävätkö tietyt väitteet posteissa ja tarinoissa paikkansa. Teknologia tekee tämän tarkastamalla, ovatko ne tuettuina muissa posteissa ja tarinoissa, jotka liittyvät samaan aiheeseen.

Alexander Wong on Waterloon yliopiston järjestelmäsuunnittelun professori.

“Jos ne ovat hyviä, se on todennäköisesti oikea tarina”, Wong sanoi. “Mutta jos suurin osa muusta materiaalista ei ole tuettu, se on vahva osoitus siitä, että olet tekemisissä väärän uutisen kanssa.”

Tutkijat päättivät kehittää työkalun, koska verkkoposteissa ja uutisartikkeleissa on paljastunut paljon vääriä tai keksittyjä tarinoita. Uutisartikkeleita usein lähetetään pettääkseen tai harhauttaakseen lukijoita, ja ne ovat yleensä poliittisista tai taloudellisista syistä.

Uusi järjestelmä on osa jatkuvaa työtä, jonka tavoitteena on kehittää täysin automaattinen teknologia, joka pystyy havaitsemaan väärän uutisen. Yhdessä tärkeimmistä tutkimuksen aloista, asenteen havaitsemisessa, järjestelmällä on 90 prosentin tarkkuus.

Järjestelmä saa ensin väitteen yhdestä postista tai tarinasta ja muita postia ja tarinoita samasta aiheesta. Nämä kerätään vertailtaviksi, ja järjestelmä pystyy määrittämään, onko väite tai tarina tuettu vai ei. Se pystyy tekemään tämän yhdeksän kertaa kymmenestä.

Tämä on nyt uusi tarkkuuden vertailukohta, ja tutkijat käyttävät suurta tietokantaa, joka luotiin vuoden 2017 tieteelliseen kilpailuun nimeltä Fake News Challenge.

Waterloon tutkijoiden kehittämä teknologia voi tulla näytöstyökaluksi, jota ihmiset käyttävät tosiasiallisissa tarkistuksissa. Useimmat sosiaalisen median ja uutisorganisaatiot käyttävät ihmiset, jotka tarkistavat tosiasioita, mutta he usein jättävät huomioimatta joitain asioita, joita teknologia voisi havaita. Tämä tapahtuu aikana, jolloin tutkijat ympäri maailmaa työskentelevät luodakseen täysin automaattisen järjestelmän, joka voi merkitä ja poistaa väärän uutisen.

Wong on yksi Waterloon tekoälyinstituutin perustajajäsenistä.

“Se lisää heidän kykyjään ja merkitsee tietoa, joka ei näytä aivan oikein, tarkistettavaksi”, Wong sanoi. “Se ei ole tarkoitettu korvaamaan ihmisiä, vaan auttamaan heitä tarkistamaan tosiasioita nopeammin ja luotettavammin.”

Tekoälyalgoritmit, jotka ovat järjestelmän perusta, oli esitetty kymmenille tuhansille eri väitteille. Väitteet oli esitetty rinnakkain tarinoilla, jotka joko tukivat tai eivät tukeneet niitä, ja järjestelmä oppi lopulta, miten se itse voisi määrittää tuen tai vastustuksen. Se siirsi tämän uusiin väite-tarina -pariin, joita se näki.

Chris Dulhanty on jatko-opiskelija, ja hän johti hanketta, joka kehitti teknologian.

“Meidän on voitava antaa journalistien mahdollisuus paljastaa totuus ja pitää meidät informoiduina”, hän sanoi. “Tämä edustaa yhtä pyrkimystä laajemmassa työssä, jolla pyritään vähentämään väärän tiedon leviämistä.”